AI 코딩 비용 90% 절감…LG유플러스, 토큰 사업 진출

[이데일리 신영빈 기자] LG유플러스(032640)가 인공지능(AI) 서비스 운영 비용을 낮추는 ‘토큰 최적화’ 기술을 앞세워 내년 기업간거래(B2B) 시장에 나선다.

LG유플러스는 지난 12일 기자 대상 ‘AI 토큰 최적화 스터디’를 열고 관련 기술 개발 성과와 사업 계획을 공개했다. 내년부터 협력사 제휴와 자체 인프라 구축을 병행해 기업용 AI 토큰 사업을 추진할 계획이다.

이상엽 LG유플러스 CTO가 12일 기자 스터디에서 발표하고 있다. (사진=LG유플러스)

토큰은 AI가 텍스트 등을 처리하는 기본 단위를 뜻한다. 사용량에 따라 비용이 발생한다. 특히 AI 에이전트는 검색과 분석, 추론 등을 반복하기 때문에 기존 챗봇보다 많은 토큰을 소비할 수 있다.

LG유플러스는 토큰당 가격을 낮추는 것뿐만 아니라 AI가 하나의 업무를 완료하는 데 드는 전체 비용을 줄이는 데 초점을 맞췄다.

핵심 기술은 작업 난이도에 따라 적합한 AI 모델을 자동으로 선택하는 ‘모델 라우팅’이다. 복잡한 작업에는 고성능 모델을, 간단한 작업에는 가벼운 모델을 활용해 불필요한 비용을 줄이는 방식이다.

LG유플러스는 내부 검증에서 일반 질문 처리 비용을 25% 이상, 코딩 에이전트 비용을 30% 이상 절감했다고 밝혔다. 자체 AI 모델을 활용한 코딩 에이전트에서는 기존에 사용하던 모델 대비 운영 비용을 90% 이상 줄인 사례도 확보했다.

AI 모델 경량화와 추론 효율 개선에서도 성과를 거뒀다. 자체 온디바이스 AI 모델의 용량을 기존 2.4~3GB에서 약 800MB로 줄이고, 토큰 생성 속도는 2배 이상 높였다. 연산 처리 방식을 개선해 동일한 인프라에서 처리 효율도 약 4배 높였다는 설명이다. 관련 연구 성과는 세계적인 AI 학술대회 ‘뉴립스’에 논문 2편이 채택됐다.

반도체 활용 방식을 최적화하는 ‘칩 믹스’ 전략도 추진한다. 엔비디아와 AMD의 그래픽처리장치(GPU), 퓨리오사AI의 신경망처리장치(NPU) 등을 작업 특성에 맞게 활용해 인프라 비용을 낮춘다는 구상이다. 퓨리오사AI와는 2년 이상 협력하며 NPU 활용 가능성을 검증하고 있다.

LG유플러스는 AI 통화 서비스 ‘익시오’와 AI 고객센터(AICC), 사내 AI 전환(AX) 과정에서 축적한 운영 경험을 토대로 기업 고객을 확보할 계획이다. 연말 상용화를 추진하는 카카오와의 협력 서비스 ‘모두의 AI’에서도 AI 모델 운영을 전담하며 관련 기술을 고도화하고 있다.

KT가 기업용 ‘토큰팩토리’를 출시하고 SK텔레콤도 ‘토큰 게이트웨이’ 사업을 추진하면서 통신 3사의 AI 토큰 시장 경쟁도 본격화하는 모습이다.

이상엽 LG유플러스 최고기술책임자(CTO)는 “AI 시장의 패권은 누가 더 큰 모델을 만드느냐를 넘어 고객이 원하는 비즈니스 결과를 얼마나 정교하고 경제적으로 완수하느냐로 이동했다”며 “전화 AI와 사내 AX 등 실제 현장에서 치열하게 부딪히며 완성한 최적화 기술력이야말로 누구도 쉽게 따라올 수 없는 지속 가능한 AI 사업의 핵심 해자가 될 것”이라고 말했다.