AI 모델 경쟁이 성능뿐 아니라 응답 속도와 비용 효율성으로 확대되는 가운데, 확산 대형언어모델(dLLM)이 기존 모델의 한계를 넘어설 수 있다는 가능성을 보여주는 사례가 등장했다. 초고속 생성 능력에 더해 오픈AI와 앤트로픽의 모델에 버금가는 성능을 입증하며 복잡한 AI 에이전트 작업까지 겨냥했다.

인셉션(Inception)은 19일(현지시간) 초당 1000토큰 이상을 생성하면서도 'GPT-6 루나'와 '클로드 하이쿠 5.5'보다 높은 품질을 내세운 dLLM '머큐리 3(Mercury 3)'를 출시했다. 모델 규모를 이전 세대보다 40배 이상 키우고도 빠른 속도를 유지한 것이 특징이다.

"지금까지 출시된 dLLM 가운데 가장 강력하고 지능적인 모델"이라고 소개했다. 자체 벤치마크 결과를 기준으로 GPT-6 루나와 하이쿠 5.5보다 높은 품질을 보이면서 초당 1000토큰 이상의 생성 속도를 구현했다는 설명이다. 엔비디아 GPU 환경에서 측정한 생성 속도는 초당 1068토큰이다.

핵심 기술은 텍스트를 차례로 생성하는 대신 여러 위치의 토큰을 병렬로 다듬는 확산 방식이다. 기존 자기회귀(autoregressive) 모델은 앞선 토큰이 생성돼야 다음 토큰을 만들 수 있지만, 확산 모델(diffusion model)은 전체 답변의 초안을 만든 뒤 여러 단계에 걸쳐 동시에 개선한다. 순차 처리 단계를 줄여 응답 지연을 낮출 수 있다.

머큐리 3가 확산 모델도 규모를 키우면 지능을 높일 수 있다는 점을 보여준다고 강조했다. 첫 번째 모델인 '머큐리 1 미니'보다 전체 매개변수 규모를 40배 이상 늘렸으며, 두 모델 간 표준 벤치마크 평균 성능은 약 3배 향상됐다고 밝혔다. 다만 구체적인 매개변수 수는 공개하지 않았다.

이번 출시가 AI 성능을 높이면서도 지연 시간과 비용 부담을 줄일 수 있는 새로운 방법이라고 강조했다. "확산 모델은 지능이 비례적인 지연 시간 증가 없이 성장할 수 있는 새로운 길을 연다"고 밝혔다.

자체 벤치마크에서는 코딩과 지시 이행 분야에서 강점을 보였다. 'SWE-벤치 아틀라스' 점수는 51.08로, GPT-6 루나의 33.33과 하이쿠 5.5의 32.26을 웃돌았다. 'IF벤치'에서도 76.84점을 기록해 GPT-6 루나보다 약 15점 높았다. 'GPQA 다이아몬드' 점수는 89.23이었다.

모든 항목에서 경쟁 모델을 앞선 것은 아니다. '딥SWE v1'에서는 하이쿠 5.5가 51.62점으로 머큐리 3의 46.31점을 앞섰다. 긴 문맥에서 정보를 검색하는 'MRCR v2'에서도 하이쿠 5.5가 우위를 보였다. 일부 장문 검색과 복잡한 코딩 작업에서는 개선 여지가 남아 있는 셈이다.

머큐리 3는 코드 리뷰와 대화형 교육, 웹 탐색, 실시간 검색, 고객 지원 등 응답 속도가 중요한 AI 에이전트에 활용할 수 있다. 에이전트는 작업을 수행하는 과정에서 모델에 여러 차례 요청을 보내기 때문에 단계별 지연이 누적되기 쉽다. 빠른 응답을 제공하면 웹 탐색이나 문서 분석을 더 신속하게 진행하고, 제한된 시간 안에 여러 접근 방식을 시도할 수 있다는 설명이다.

얼리 액세스 파트너들도 다양한 활용 사례를 제시했다. 웹 탐색 자동화 업체 타이니피시(TinyFish)는 실제 웹 탐색 작업 50건 가운데 머큐리 3가 50%를 완료했다고 밝혔다. 옥텐 AI(Octen AI)는 스마트 안경 기반 검색에서 중앙값 기준 생성 시간이 0.9초, 전체 응답 시간이 2.2초였다고 전했다. 리비전두조(RevisionDojo)는 학습용 힌트와 답안 표시 기능이 약 1초 만에 제공된다고 설명했다.

이 모델은 인셉션 API 플랫폼과 오픈라우터, 베이스텐, 버셀 등을 통해 이용할 수 있다. 오픈AI API와 호환돼 기존 개발 환경에 비교적 쉽게 통합할 수 있으며, 최대 100만 토큰의 문맥 길이를 지원한다.

정식 가격은 입력 토큰 100만개당 0.20달러, 출력 토큰 100만개당 0.70달러다. 출시 기념으로 50% 할인된 입력 0.10달러, 출력 0.35달러에 제공하며, 캐시된 입력 토큰은 입력 가격에서 90% 할인한다. 기업용 고객에게는 전용 처리 용량과 자동 확장, 데이터 보존 설정 등 추가 기능도 지원한다.

인셉션은 음성 AI의 첫 응답 지연을 줄이는 '머큐리 보이스(Mercury Voice)'와 대량 분류 작업에 특화한 의사결정 모델 '머큐리 디사이드(Mercury Decide)'도 함께 선보이며 실시간 AI 제품군을 확대하고 있다. 

박찬 기자 cpark@aitimes.com