미국 기업들은 인공지능(AI)에 열광했다. 청구서를 받아보기 전까지는.
AI가 판매되는 컴퓨팅 파워의 단위인 "토큰(token)" 지출을 둘러싼 롤러코스터가 엔지니어링 팀과 이사회를 뒤흔들고 있다. 처음에는 경영진들이 AI 사용을 최대한 늘리도록 독려하면서 "토큰맥싱(tokenmaxxing)"이 등장했다. 그다음에는 회사 자금 수백만 달러를 순식간에 태워버린 뒤 "토큰마이닝(tokenminning, 원문 그대로)"이 뒤따랐다.
이러한 시급함과 불확실성이 동시에 존재하면서 복잡한 질문들이 제기되고 있다. AI는 대체 무엇에 쓸모가 있는가? 자신이 무엇을 구매하고 있는지, 그리고 그것이 가능케 하는 가치를 어떻게 측정할 수 있는가? 가격은 어떻게 매겨지며 앞으로 어떻게 변할 것인가? 이 지출은 무엇을 대체하는가?
"이건 자신이 무엇을 쓰고 있는지 본능적으로 알 수 없는 통화(currency) 같은 것이고, 이를 위한 회계 관행조차 아직 마련되어 있지 않다"고 기업의 기술 지출에 대해 자문하는 경제학자 하워드 루빈(Howard Rubin)은 말했다. "지금 AI 지출은 하나의 투자처럼 취급되고 있지만, 수익이 전혀 없을 수도 있는 위험한 투자다."
이처럼 판돈은 크지만 관련 지식은 부족한 상황 속에서, 기업들이 AI를 어떻게 구매하고 거기서 어떤 가치를 얻는지를 규명하려는 경제학의 새로운 분야가 등장했다. 이를 "토크노믹스(tokenomics)"라 부를 수 있다 — 이 한정된 자원이 어떻게 만들어지고, 거래되고, 사람들이 원하는 것으로 전환되는지를 연구하는 분야다.
기업들이 신기술을 도입하는 것은 새삼스러운 일이 아니다. 전기는 전력이 사용되는 곳에서 멀리 떨어진 곳에서도 발전(發電)할 수 있게 해주었다. 인터넷은 서비스가 제공되는 방식을 근본적으로 바꾸어놓았다. 클라우드 컴퓨팅은 데이터 처리를 번거로운 현장 작업에서 원격으로 빌려 쓸 수 있는 것으로 바꾸었다.
AI가 가져올 파급 효과도 그만큼 심대할 수 있지만, 그 비용과 편익을 저울질하기는 훨씬 더 어렵다.
AI가 기업 지출 항목으로서 작동하는 방식에 가장 가까운 비유는 아마도 석유 제품일 것이다. 원유라는 공통의 원료는 휘발유, 경유, 프로판 같은 상품들로 정제된다. 이 연료들은 저마다 용도가 다르지만, 영국 열량 단위(British thermal unit, Btu)라는 표준화된 에너지 단위로 환산할 수 있으며, 대체로 가격이 수요와 공급에 따라 변동하는 거래소를 통해 도매로 판매된다.
토큰의 원료는 전기와 반도체다. 그 결과물인 "컴퓨트(compute)"는 모델에 투입되어 토큰 단위로 계량되는데, 토큰은 일반적으로 영어 텍스트 몇 글자에 해당하는 것으로 이해된다.
하지만 석유화학 비유는 거기서 끝난다. 현재 수천 개의 AI 모델이 존재하며, 누가 무엇에 대해 얼마를 지불하고 있는지에 대한 투명성은 거의 없다. 토큰 하나가 얼마만큼의 에너지를 필요로 하는지, 주어진 작업을 수행하는 데 어떤 모델이 가장 적합한지, 그 작업에 몇 개의 토큰이 소요되어야 하는지에 대한 합의도 없다.
"지능(intelligence)을 유틸리티로 본다면 그것이 배치될 수 있는 방식이 너무나 다양해서, 가치를 식별하는 문제가 훨씬 더 어려워졌다"고 산타클라라 대학교의 AI·분석학 교수 램 발라(Ram Bala)는 말했다. 예를 들어 일부 모델은 목표 달성이 가망 없는 상황에서도 계속 시도를 이어간다.
"한편으로는 어려운 문제를 풀고 싶어 한다. 그것이 긍정적인 측면이다"라고 발라 교수는 말했다. "부정적인 측면은, 이것이 영원히 루프를 반복하면서도 결코 합리적인 해결책에 도달하지 못할 수 있다는 점이다."
오픈소스 기술 프로젝트를 후원하는 비영리 단체인 리눅스 재단(Linux Foundation)은 이전에 클라우드 컴퓨팅 서비스를 제공업체 간에 더 쉽게 비교할 수 있도록 표준을 개발한 바 있다. 지난 6월, 이 재단은 비슷한 목표를 가진 토크노믹스 재단(Tokenomics Foundation)을 설립했다. AI 제공업체들이 공개하기로 합의하는 공통 매개변수를 만드는 것이 목표다.
"전 세계 모든 조직이 지금 내리고 있는 일련의 의사결정이 있는데, 우리는 그들이 생각하는 틀을 표준화해서 더 나은 출발점을 갖게 해주고 싶다"고 이 재단의 상무이사 J.R. 스토먼트(J.R. Storment)는 말했다.
기업들은 이익률을 갉아먹지 않으면서 AI로부터 어느 정도의 이익을 얻기 위해 새로운 부류의 도구와 서비스 제공업체들을 활용하고 있다. 예를 들어 레베니엄(Revenium)은 토큰 지출이 그 비용을 정당화할 만큼 생산성을 향상시키는지 추적하는 데 도움을 준다.
레베니엄의 공동창업자이자 최고운영책임자(COO)인 제이슨 컴벌랜드(Jason Cumberland)는, 엔지니어들이 비싼 모델을 얼마나 사용할 수 있는지에 한도를 설정하라고 고객들에게 권한다고 말했다. 할당된 토큰 사용량을 다 쓰고 나면 엔지니어들은 더 저렴한 오픈소스 모델로 전환하게 되고, 이는 정말로 무엇이 필요한지 신중하게 생각하도록 만든다. 레베니엄은 고객들이 토큰 지출을 배포된 소프트웨어 기능 개수와 같은 구체적인 성과에 대응시킬 수 있도록 돕는다.
"우리를 찾아오는 사람들은 지출이 폭발적으로 늘어나는 것을 경험하고 있는 이들이다"라고 컴벌랜드는 말했다. "그들은 그것이 그만한 가치가 있는지 알고 싶어 하지만, 동시에 업무를 그냥 중단시키지 않으면서 지출을 억제하는 방법도 알고 싶어 한다. 그것이 바로 과제다."
그들 모두가 마주한 하나의 큰 질문은, 이 추가적인 토큰 지출을 감당할 돈이 대체 어디서 나오느냐는 것이다. 컴벌랜드에 따르면 처음에는 기업들이 말 그대로 소파 쿠션 밑까지 뒤져가며 클로드(Claude)나 챗GPT(ChatGPT) 구독료를 마련했다. 이 서비스들에 점점 더 의존하게 되면서, 기업들은 소프트웨어 라이선스나 웹 개발·카피라이팅 같은 외주 서비스를 줄이기 시작했다.
이제 기업들은 토큰 지출을 회사의 인건비 예산의 일부로 간주해야 하는지 저울질하고 있다. 이것이 바로 경제학자들이 갖고 있는 핵심 질문이다 — AI가 인간의 노동을 대체할 것인가, 아니면 보완할 것인가. 컨설팅 회사 베인앤컴퍼니(Bain & Company)의 애널리스트들은 최근 한 사고 실험에서, 중기적으로 토큰이 기업 영업비용의 약 4분의 1을 차지하게 되는 시나리오를 제시했다.
사이버보안 기업 엘리시티(Elisity)는 아직 그 정도까지는 전혀 아니라고 말하지만, "바이오닉 헤드카운트(bionic head count)"라 부르는 지표로 그 토대를 다지고 있다.
이 지표는 AI 지출을 모두 합산한 뒤 직원 1인당 평균 급여 및 복리후생 비용으로 나눈다. 그런 다음 연간 매출을 이렇게 산출된 인간과 가상의 "직원" 수로 나누어 그들의 총산출을 측정한다.
이를 조금이라도 더 실감나게 만들기 위해, 인간 직원들은 각 AI 에이전트를 "채용"하는 이유를 정당화하기 위한 직무 기술서(job description)까지 작성한다. 엔지니어가 새로운 작업에 모델을 실행할 때마다 그에 대한 평가가 이루어져야 한다.
"본질적으로 당신은 가상의 헤드카운트를 추가하고 있는 것이다. 그것이 정말 중요한 유일한 것, 즉 증분 매출로 이어지고 있는가, 아니면 그저 이익률을 갉아먹고 있는가?"라고 엘리시티의 최고마케팅책임자(CMO) 찰리 트레드웰(Charlie Treadwell)은 말했다. "성장 단계에 있는 회사에서는, 더 빠르게 성장하기 위해 자본을 어디에 쓸 것인가에 대한 사고방식 자체가 바뀐다."
하지만 토큰 가격이 크게 오른다면 그 계산식은 순식간에 달라질 수 있다. 엘리시티는 현재 150명 사용자에 대한 정액제 팀 구독으로 버티고 있다. 만약 수백 명 이상의 사용자를 보유한 조직에 일반적으로 적용되는 방식대로 토큰 단위로 요금이 부과된다면, 지출이 네 배로 늘어날 것이라고 트레드웰은 말했다. 그렇게 되면 회사는 AI 사용 방식을 재고해야 할 것이다. (다만 엘리시티는 인력을 감축할 계획이 없으며, 오히려 채용을 하고 있다.)
문제를 더 복잡하게 만드는 것은, 토큰 가격이 클라우드 제공업체마다 다르게 책정될 수 있고, 무엇이 가격을 올리거나 내리는지도 명확하지 않다는 점이다. AI 연구소들이 기업공개(IPO)에 앞서 시장 점유율을 차지하기 위한 군비 경쟁을 벌이고 있는 상황에서, 그들이 청구하는 요금이 토큰을 생산하는 데 드는 실제 비용과 완전히 일치하지 않을 수도 있다.
그리고 AI는 스스로 비용을 최소화하는 데도 도움을 줄 수 있다. 그 이유 중 하나는 이른바 "캐시 토큰(cache token)" — 모델이 이미 한 번 처리했던 것이라 훨씬 저렴한 가격에 재사용할 수 있는 토큰 — 의 사용이 늘고 있기 때문이다. 더 많은 기업들이 스스로 작업을 실행할 수 있는 소프트웨어 도구, 이른바 "에이전트(agent)"를 통해 AI를 사용하게 되면서, 이러한 에이전트들은 더 많은 작업을 캐시 토큰에 위임할 수 있게 되었다.
이번 달 발표된 한 워킹페이퍼(working paper)에서, 한 경제학자 팀은 이러한 흐름이 프런티어(frontier) AI 모델의 토큰 소비량과 표시 가격이 모두 오르고 있음에도 불구하고, 실제 지출을 원래 있었을 수준보다 낮게 끌어내리고 있다는 사실을 발견했다.
토큰 비용이 인건비와 경쟁력을 유지할 수 있는지 여부는 앞으로 기업들이 어떤 종류의 지능에 의존하게 될지에 큰 영향을 미칠 것이다. 하지만 여전히 AI를 생산적인 방식으로 배치할 줄 아는 사람은 부족하다. 그 덕분에 주 왕(Jue Wang) 같은 컨설턴트들은 바쁜 나날을 보내고 있다.
"업계에서 사람들이 충분히 이야기하지 않는 제약 요인이 바로 그것이라고 나는 생각한다"고 베인의 파트너인 왕 씨는 말했다. "우리는 흔히 '아, 그들은 캐파(capacity)가 없구나'라고 생각한다. 하지만 그들에게는 가치를 실제로 전달하는 데 도움을 줄 사람도 충분하지 않다."
조직 내에서 AI 지출이 실제로 어떻게 이루어지고 있는지를 연구하는 데 있어 근본적인 어려움 중 하나는, 이를 추적할 포괄적인 데이터가 부족하다는 점이다. 중앙화된 거래소도 없고, 선물시장도 없으며, 가격과 지출을 보고하는 정부 조사도 없다.
바로 그래서 토큰 사용에 관한 최근 논문을 공동 집필한 예일대학교 경제학 교수 알레 치빈스키(Aleh Tsyvinski)는, 전체 AI 지출의 단 2%를 대표하는 오픈라우터(OpenRouter) 플랫폼의 데이터셋을 분석할 수 있었다는 사실에 흥분했다. 이를 통해 그는 금융시장이 이러한 지출에 어떻게 반응하는지 연구할 수 있었지만, 여전히 많은 의문이 남아 있다.
"이것은 우리 세대의 가장 큰 과제 중 하나다"라고 치빈스키는 말했다. "AI가 앞으로 모든 것을 바꿀 것인지를 이해하는 것은 좋은 일이다. 어쩌면 아무것도 바꾸지 않을 수도 있지만, 어쨌든 이를 측정할 수 있다는 것은 좋은 일이다."
핵심 요약 (20줄)
- 뉴욕타임스가 기업들의 AI 지출 열풍과 그 이면의 불안을 다룬 심층 기사를 게재했다.
- 경영진들이 AI 사용을 독려하는 "토큰맥싱(tokenmaxxing)" 뒤에, 비용 급증에 놀라 사용을 줄이는 "토큰마이닝" 현상이 뒤따르고 있다.
- AI가 판매되는 컴퓨팅 단위인 "토큰"의 가치와 가격을 측정하는 방법에 대한 합의가 업계에 아직 없다.
- 경제학자 하워드 루빈은 AI 지출을 "본능적으로 쓰임새를 알 수 없고 회계 관행조차 없는 통화"에 비유했다.
- 이 문제를 다루는 새로운 경제학 분야로 "토크노믹스(tokenomics)"가 부상하고 있다.
- 전기·인터넷·클라우드 컴퓨팅과 달리, AI 비용과 편익은 표준화된 비교가 훨씬 어렵다.
- 토큰 경제를 석유 정제 산업에 비유할 수 있지만, 수천 개 모델과 낮은 가격 투명성 때문에 비유는 한계가 있다.
- 산타클라라 대학교 램 발라 교수는 AI 모델이 무의미한 작업을 무한 반복할 수 있다는 "가치 식별 문제"를 지적했다.
- 리눅스 재단은 지난 6월 "토크노믹스 재단"을 설립해 AI 제공업체들이 공개할 공통 지표 표준을 만들고 있다.
- 레베니엄 같은 스타트업은 기업이 토큰 지출과 생산성 성과(예: 배포된 기능 수)를 연결하도록 돕는다.
- 기업들은 처음엔 예산 여유분으로 AI 구독료를 충당하다가, 점차 소프트웨어 라이선스와 외주 서비스 지출을 줄여 AI 비용을 메우고 있다.
- 컨설팅사 베인앤컴퍼니는 중기적으로 토큰 지출이 기업 영업비용의 약 25%를 차지할 수 있다는 시나리오를 제시했다.
- 사이버보안 기업 엘리시티는 AI 지출을 인건비와 비교하는 "바이오닉 헤드카운트" 지표를 도입해, AI 에이전트마다 직무 기술서를 작성하고 성과를 평가한다.
- 엘리시티는 현재 정액제 요금이지만, 사용량 기반 과금으로 전환되면 비용이 4배로 뛸 것으로 예상하면서도 인력 감축 계획은 없다고 밝혔다.
- AI 랩들은 상장 전 시장 점유율 경쟁 중이어서, 청구 가격이 실제 생산 비용과 반드시 일치하지 않을 수 있다.
- 이미 처리된 요청을 저렴하게 재사용하는 "캐시 토큰" 활용이 늘면서, 토큰 소비·가격 상승에도 실제 지출 증가 폭은 완화되고 있다는 연구 결과가 나왔다.
- 베인의 파트너 주 왕은 AI를 실제로 활용해 가치를 전달할 줄 아는 인력 부족이 업계에서 충분히 논의되지 않는 제약이라고 지적했다.
- AI 지출을 추적할 중앙화된 거래소, 선물시장, 정부 통계가 전무해 데이터 공백이 크다.
- 예일대 알레 치빈스키 교수는 전체 AI 지출의 단 2%에 불과한 오픈라우터 데이터로도 금융시장 반응을 분석할 수 있어 의미 있었다고 밝혔다.
- 결론적으로 AI가 모든 것을 바꿀지, 혹은 별다른 변화가 없을지는 불확실하지만, 이를 측정하려는 시도 자체가 지금 가장 중요한 과제로 떠오르고 있다.