차이나모바일, 차이나유니콤, 차이나텔레콤 등 중국 3대 이동통신사가 올해 5월 토큰(Token) 요금제 상품을 잇달아 출시했다.
과거 통화 시간이나 데이터 패키지를 판매하던 통신사들이 토큰을 판매하기 시작한 것은 인공지능(AI) 연산력이 구매, 계량, 결제가 가능한 기초 자원으로 상품화됐음을 의미한다.
이에 따라 기업의 AI 활용은 일회성 비용에서 지속적인 예산 소모 항목으로 전환됐다.
스마트 고객 서비스, 코드 지원, 기업 지식창고 등 업무 흐름에 AI가 내재화되면서 토큰 소모는 상시적인 지출 구조를 형성했다.
서비스형 소프트웨어(SaaS) 기업의 고정 계정 비용과 달리, AI 비용은 전기나 수도처럼 사용량에 비례해 급증하는 특징을 보인다.
전문가들은 기업이 토큰 관리 시 세 가지 함정에 유의해야 한다고 지적하고 있다.
기업 AI 토큰 관리의 3대 함정
| 함정 유형 | 주요 내용 및 특징 | 사례 및 영향 |
|---|---|---|
| 총량 통제 실패 | 단일 호출 비용의 저렴함에 착각해 전체 사용량 통제에 실패함 | 오픈클로(OpenClaw) 3인 팀이 30일간 100개 코덱스 인스턴스 실행 후 6,030억 토큰 사용, 130만 달러 청구서 수령 |
| 비즈니스 가치 평가 모호 | 청구서 분별 가시화에 비해 실제 비즈니스 가치 평가가 어려움 | 비용 대비 효과 분석의 한계 발생 |
| ‘검증세’ 부과 문제 | AI가 생성한 결과물을 검증하는 데 대규모 인력과 비용이 소모됨 | 사후 검증 비용의 급격한 증가 유발 |
결과적으로 기업은 단순한 기술적 최적화를 넘어 예산 관리, 모델 라우팅, 권한 제어, 성과 평가를 아우르는 ‘토큰 거버넌스 체계’를 구축해야 할 것으로 보인다.
토큰 낭비는 모델의 한계보다 조직 내부의 데이터 거버넌스나 프로세스 설계 미비에서 비롯되는 경우가 많다.
장기적으로 기업은 복잡성에 따라 저비용 모델과 고성능 모델을 적절히 조합하는 운영 능력을 갖추어야 할 것이다.
https://withtoc.com/ 제휴 콘텐츠 문의 02-6205-6687