기사를 읽어드립니다.

AI를 도입한 기업들이 갈수록 비용을 예측하기 어려워지고 있습니다. BBC에 따르면, 최근 AI 에이전트를 서비스에 적용하고 있는 기업들은 앞으로 1~3년의 AI 비용을 미리 계산하는 것조차 쉽지 않다고 밝혔습니다.

우버가 올해 초 불과 몇 달 만에 1년 치 AI 코딩 토큰 예산을 모두 소진했다는 것은 잘 알려진 사실입니다. 마이크로소프트는 엔지니어들의 일부 외부 AI 코딩 도구 사용을 제한한 것으로 전해졌습니다.

그러나 이는 단순히 AI가 비싸서 생긴 문제가 아닙니다. AI 자체의 가격은 계속 내려가고 있으며, 실제로 4개월여 만에 토큰 가격이 13분의 1로 떨어졌다는 분석도 나왔습니다.

이처럼 토큰 가격은 빠르게 낮아지고 있는데, 기업들은 오히려 AI에 얼마를 써야 할지 계산하기 어려워지고 있습니다.

이는 AI 모델의 비용이 토큰 사용량과 연결되는 구조 때문입니다.

챗GPT가 처음 등장했을 때만 해도 이 문제는 지금처럼 크지 않았습니다. 사용자가 질문을 입력하면 AI가 답을 내놓는 방식이 대부분이었기 때문입니다.

현재 일반화된 월 20달러 안팎의 정액제 역시 처음부터 실제 컴퓨팅 원가나 인건비 등을 정밀하게 계산해 책정된 가격은 아니었습니다. 오픈AI에 따르면 초기에는 폭증하는 수요를 억제하기 위해 한 달 정도만 운영할 임시방편에 가까웠습니다.

하지만 그동안 AI의 역할은 크게 달라졌습니다.

이제 AI는 단순히 질문에 답하는 데 그치지 않습니다. 코드를 읽고 수정하고, 파일을 검색하고, 테스트를 실행하고, 오류를 찾아 다시 고칩니다. 웹을 검색하고 다른 프로그램을 호출하면서 하나의 업무를 끝까지 처리하기도 합니다. 사용자는 한 번 지시했을 뿐이지만 그 뒤에서는 수많은 AI 호출이 이어질 수 있습니다.

이때 비용을 좌우하는 것이 토큰입니다. 토큰은 AI가 문장이나 코드를 처리하는 기본 단위로, 사용자가 AI에게 어떤 일을 시키느냐에 따라 필요한 양이 크게 달라집니다. 같은 사용자가 같은 AI를 이용하더라도 단순한 질문과 코딩 작업은 필요한 컴퓨팅 자원이 전혀 다릅니다. 여기에 여러 에이전트가 함께 작업하면 한 번의 지시가 수많은 추론과 도구 호출로 이어질 수도 있습니다.

이는 기존 소프트웨어의 가격 구조까지 흔들고 있습니다.

전통적인 SaaS는 사용자 수를 기준으로 비용을 계산하기가 상대적으로 쉬웠습니다. 전통적인 SaaS는 사용자 수와 구좌당 가격을 기준으로 비용을 계산하기가 상대적으로 쉬웠습니다. 기업 입장에서는 연간 예산을 짜기도 어렵지 않았습니다.

그러나 AI에서는 사용자 한 명이 얼마나 많은 토큰을 소비할지, 어떤 모델을 사용할지, 얼마나 복잡한 작업을 맡길지에 따라 비용이 달라집니다. 특히 AI가 업무를 대신하는 에이전트로 발전하면서 사용량의 편차는 더 커지고 있습니다.

골드만삭스는 기업과 소비자의 AI 에이전트 사용이 확대되면서 2026년부터 2030년 사이 토큰 소비량이 24배 증가해 월 120경개에 이를 것으로 전망했습니다. 개별 토큰의 가격은 떨어지는데 소비되는 토큰의 수는 훨씬 빠르게 늘어나는 구조입니다.

이는 비용 예상이 어려운 AI 사용 기업은 물론, AI 서비스 기업에도 고민을 안겨 줍니다.

기존처럼 월정액을 받으면 사용량이 급증했을 때 서비스 제공자가 비용을 떠안게 됩니다. 반대로 토큰 사용량에 따라 과금하면 고객 입장에서는 매달 비용을 예측하기 어려워집니다. 성과에 따라 비용을 받거나 특정 작업 단위로 과금하는 방법도 거론되지만 아직 뚜렷한 해법은 나오지 않았습니다.

또 모델 제공업체가 가격을 바꾸면 그 위에서 만들어진 서비스의 가격 체계도 다시 흔들릴 수 있습니다. 지금 AI 업체들이 겪고 있는 어려움은 단순히 모델 가격이 비싸기 때문이 아니라, 원가 자체가 사용량에 따라 움직이는 데다 그 사용량을 예측하기 어렵다는 데 있습니다.

최근 AI 업계에서 ‘파레토 프론티어’라는 표현이 자주 등장하는 것도 가격과 성능을 동시에 끌어올리는 경쟁이 본격화됐기 때문입니다. 같은 성능이라면 더 싼 모델을, 같은 가격이라면 더 성능이 좋은 모델을 선택할 수 있도록 가격과 성능의 경계를 계속 밀어내는 경쟁입니다. 

문제는 AI 사용 비용이 내려가면 사용량이 다시 늘어날 수 있다는 것입니다. 이른바 ‘제번스의 역설’입니다. 모델이 싸지고 좋아지면 기업은 더 많은 업무에 AI를 투입할 수 있습니다. 예전에는 사람이 처리하던 복잡한 작업도 AI에게 맡길 수 있습니다. 그러면 다시 토큰 사용량이 늘어납니다. 

여기에 AI 사용 과정에서 축적된 데이터가 다시 모델 성능 향상으로 이어지는 '데이터 플라이휠'도 작동할 수 있습니다. 모델이 좋아지면 더 많은 업무를 맡길 수 있고, 사용이 늘어나면 더 많은 데이터가 쌓입니다. 이를 통해 다시 모델 성능이 개선되면서 AI가 처리할 수 있는 업무의 범위가 넓어지는 구조입니다. 

결국 가격 하락과 성능 향상이 AI 사용량을 다시 끌어올리는 구조가 만들어지는 셈입니다.

이런 점 때문에 과거 암호화폐 분야에서 쓰이던 ‘토큰 경제학(Tokenomics)’이라는 말도 이제는 AI의 새로운 경제 구조를 설명하는 용어로 쓰이고 있습니다. 핵심은 토큰 하나가 얼마냐가 아닙니다. AI 모델의 가격이 계속 내려가고 성능이 좋아질수록 사람들이 더 많은 일을 AI에게 맡기게 되고, 그 과정에서 폭증하는 사용량을 어떻게 비용으로 관리하고 가격에 반영할 것인지가 문제입니다.

‘사용자 수’를 중심으로 가격을 매겼던 SaaS 시대의 계산법도 바뀌고 있습니다. AI 시대에는 직원 수뿐 아니라 사용하는 모델, 요청 횟수, 입력량과 출력량, 에이전트가 수행하는 작업량까지 고려해야 하기 때문입니다.

이 때문에 AI가 사용량을 기준으로 요금을 부과하는 전기에 점점 가까워지고 있다는 분석도 나옵니다. 불과 몇 년 사이 급격하게 발전한 AI의 성능과 이전과는 비교할 수 없을 정도로 달라진 활용법으로 인해 AI 업계가 새로운 가격 체계를 찾아야 하는 성장통을 겪는 셈입니다.

AI 산업은 이제 전기의 사용량 기반 경제와 SaaS의 정액제 경제 사이에서 새로운 가격 모델을 찾아야 하는 단계에 들어섰습니다.

이어 13일 주요 뉴스입니다.

■ 모티프, 독파모 후발주자 한계 넘었다…AAII 점수 국내 1위 기록

모티프의 새로운 모델이 AAII에서 거둔 성과는 국내 모델도 글로벌 경쟁력을 갖출 수 있다는 신호로 받아들여집니다. 실제로 모델의 매개변수 규모와 투입된 AI 인프라 등을 감안하면, 국내 모델 경쟁의 새로운 핵심으로 떠오를 가능성을 보여줬습니다.

■ 업스테이지 ‘솔라 프로 4’, AAII·아레나 지표로 에이전트 성능 입증

불과 몇 개월 만에 전작보다 성능을 크게 끌어올린 업스테이지의 기술 발전도 주목할 만합니다. 특히 그동안 모델 개발 과정에서 구축한 파이프라인 ‘오피스버스’를 활용해 실제 사무 업무와 유사한 작업을 합성·검증한 것이 에이전트 성능 향상에 중요한 역할을 했다는 점이 눈에 띕니다.

■ 머스크 "스페이스X 전체 데이터로 그록 학습...직원들이 AI의 '부모' 될 것"

머스크의 발언은 AI 학습 데이터 확보 경쟁이 인터넷을 넘어 실제 기업의 업무 데이터로 확대되고 있다는 점에서 주목됩니다. 특히 직원들이 현장에서 축적한 ‘암묵적 지식’은 공개 데이터만으로 확보하기 어려운 만큼 차세대 AI 성능 경쟁의 중요한 자산으로 꼽힙니다.

AI타임스 news@aitimes.com