AI 토큰 지출 20% 감소…‘투자수익률(ROI) 시대’가 왔다

[이데일리 김현아 기자] 글로벌 AI 시장의 핵심 선행지표인 AI 토큰(Token) 지출지수 가 최근 20% 가까이 하락하면서 AI 산업이 ‘무조건 투자’에서 ‘수익성 검증’ 단계로 접어들고 있다. AI 열풍이 식었다기보다 기업들이 성능 경쟁보다 ROI(투자수익률) 와 비용 효율성을 본격적으로 따지기 시작했다는 평가다.

실제 AI 도입에 가장 적극적인 기업 가운데 하나인 테슬라도 직원들의 AI 사용료에 상한선을 두는 등 비용 관리에 나서면서 이 같은 흐름을 뒷받침하고 있다.

블룸버그는 3일(현지시간) 데이터 분석업체 실리콘데이터(Silicon Data)의 대형언어모델(LLM) 토큰 지출지수 가 지난 5월 고점 대비 약 20% 하락했다고 보도했다.

AI 토큰 지출지수는 실리콘데이터가 집계하는 지표로, 전 세계 기업과 이용자들이 AI 서비스를 이용하는 데 실제 지출한 금액의 흐름을 보여준다. AI가 문장과 데이터를 처리할 때 사용하는 기본 계산 단위인 토큰(Token) 의 가격과 사용량을 종합해 산출한다.

실제 달러 금액을 공개하는 통계가 아니라 지수(Index) 로 발표되며, 5월 고점을 100으로 봤을 때 현재는 약 80 수준으로 내려왔다는 의미다. 전 세계 AI 서비스 지출 규모가 최고점 대비 약 20% 감소했음을 보여주는 대표적인 선행지표다.

블룸버그는 이번 하락을 단순한 AI 반도체 수요 감소가 아니라, 2027년까지 약 1조달러(약 1530조원) 규모로 예상되는 AI 인프라 투자(CAPEX·자본적 지출)를 정당화할 만큼 AI 서비스의 가격 결정력이 유지될 수 있는지를 가늠하는 신호라고 분석했다.

이미지 작성=제미나이

AI 적극 도입한 테슬라도 “비용부터 관리”

AI 비용 관리 움직임은 실제 기업 현장에서도 나타나고 있다.

미국 IT 전문매체 디인포메이션에 따르면 테슬라는 오는 6일부터 직원 1인당 AI 사용 비용을 주당 200달러(30만6000원)로 제한한다. 이를 초과해 AI 서비스를 이용하려면 별도 승인을 받아야 한다.

일부 소프트웨어 엔지니어들이 AI 모델 사용에 매주 수천 달러 규모의 토큰을 소비하면서 비용이 급증한 것이 직접적인 배경이다.

메타와 우버, 월마트 등 글로벌 기업들도 AI 활용은 확대하면서도 사용량과 비용을 통제하는 정책을 잇달아 도입하고 있다.

“수요 둔화” vs “건전한 구조조정”

시장에서는 토큰 지출 감소를 두고 해석이 엇갈린다.

낙관론은 AI 토큰 가격이 크게 하락하면서 이용량은 오히려 늘어나는 등 시장이 성숙하는 과정으로 본다. 반면 토큰 소비 감소가 장기화될 경우 AI 데이터센터와 GPU 투자 사이클이 둔화할 수 있다는 우려도 나온다.

알리안츠리서치는 AI 투자 증가율과 실제 매출 증가율의 격차가 약 46%로, 2001년 통신 버블 당시(32%)보다 크다고 분석했다. AI 투자 속도가 실제 수익 창출을 앞서고 있다는 의미다.

GPU보다 ‘토큰 효율’이 경쟁력

월가는 이번 현상을 AI 산업의 자연스러운 진화 과정으로 해석한다.

시타델증권은 값비싼 초거대 AI 모델보다 토큰 사용량이 적고 비용 효율이 높은 경량 모델과 업무 특화형 AI 애플리케이션으로 수요가 이동하고 있다고 분석했다.

AI 투자 역시 모델을 학습시키는 학습 중심에서 실제 서비스를 운영하는 추론 중심으로 이동하면서, 같은 성능을 더 적은 연산과 전력으로 구현하는 효율성이 핵심 경쟁력으로 부상하고 있다는 설명이다.

업계 관계자는 “토큰 지출 감소는 AI 시장 침체보다 AI 산업이 본격적인 비용 관리 단계에 들어섰음을 보여주는 신호”라며 “AI 경쟁도 이제는 GPU를 얼마나 많이 확보하느냐보다 적은 토큰으로 더 높은 성능과 수익을 내는 기업이 경쟁력을 갖게 될 것”이라고 말했다.