기사를 읽어드립니다.

구글 출신 연구진이 설립한 리커시브 인텔리전스(Ricursive Intelligence)가 매개변수 규모가 8배 가까이 큰 AI 모델을 코딩 성능 평가에서 앞서는 오픈웨이트 모델을 공개했다. 기존 선두 모델보다 개발 비용은 약 10분의 1에 불과하다고 밝혀, 대형 모델에 맞먹는 성능을 적은 비용으로 구현한 사례로 주목받고 있다.

리커시브 인텔리전스는 최근 650억개 매개변수를 갖춘 오픈웨이트 AI 모델 '리플-65B 프리뷰(Ripple-65B Preview)'를 공개했다. 터미널 기반 코딩과 복잡한 소프트웨어 개발 작업을 평가하는 두 가지 벤치마크에서 비교 대상으로 제시한 미국 오픈웨이트 모델 가운데 가장 높은 점수를 기록했다.

리커시브는 구글에서 AI 기반 반도체 설계 기술 '알파칩(AlphaChip)' 개발에 참여한 애나 골디 CEO와 아잘리아 미르호세이니 CTO가 설립한 회사다. 자체 반도체 설계 플랫폼을 구동하기 위해 언어 모델을 개발했으며, 이번에 공개한 리플-65B는 해당 기술을 범용으로 활용할 수 있도록 만든 모델이다.

앞서 코딩 모델 '플린트(Flint)'를 공개했다고 보도한 리커시브(Recursive)와는 별개 기업이다. 플린트를 개발한 회사는 메타와 오픈AI 출신 연구진이 주축이 돼 설립한 AI 연구개발 자동화 기업이다.

리플-65B는 터미널 환경에서 AI 에이전트의 코딩 능력을 평가하는 '터미널벤치 2.1'에서 80.52점을 기록했다. 리플렉션의 '빔 501B'가 80.1점, 메타의 '뮤즈 스파크 오픈 816B'가 76.4점, 싱킹 머신즈의 '잉클링 975B'가 63.8점, 엔비디아의 '네모트론 3 울트라 550B'가 56.4점으로 뒤를 이었다. 650억 매개변수 모델이 최대 15배 규모의 경쟁 모델들을 앞선 것이다.

실제 소프트웨어 개발 문제를 해결하는 능력을 평가하는 'SWE-벤치 프로 v2.0 하드'에서도 79.1점을 기록해 빔(76.5점)과 뮤즈 스파크 오픈(72.4점)을 앞섰다. 그러나 다른 코딩 평가인 '딥SWE 1.1'에서는 44.3점으로 뮤즈 스파크 오픈(60.0점)에 뒤졌다. 리플-65B의 성능 우위는 일부 에이전트 코딩 평가에 한정된다.

이번 결과는 리커시브가 경쟁사의 공개 점수와 자체 측정 결과를 종합해 비교한 것이다. 실제로 일부 경쟁 모델의 평가 점수는 회사별 발표 자료에서 차이가 났다. 벤처비트는 평가 도구와 실행 조건에 따라 성적이 달라질 수 있어 미국 오픈웨이트 모델 전체에서 성능 우위를 확정한 결과로 보기는 어렵다고 지적했다.

리플-65B는 12조개 토큰으로 처음부터 사전 학습했으며, 최대 100만 토큰의 컨텍스트 길이를 지원하도록 설계됐다. 리커시브는 학습과 추론 효율을 높이기 위해 전문가 혼합(MoE) 방식 대신 모든 매개변수를 사용하는 밀집형(Dense) 트랜스포머 구조를 채택했다. 엔비디아 하드웨어에 맞춰 모델 구조도 최적화했다.

경쟁 모델보다 전체 매개변수 수는 적지만, 실제 연산량 차이는 모델 구조에 따라 달라진다. 빔 501B 등은 MoE 구조를 적용해 추론 과정에서 일부 매개변수만 활성화하기 때문이다. 전체 매개변수 규모가 작다고 추론 비용도 같은 비율로 줄어드는 것은 아니다.

개발 비용에서도 효율성을 강조했다. 데이터 구성과 합성 데이터 생성, 평가, 사후 학습 등 초기 연구개발부터 최종 학습까지 총 3200만달러(약 430억원)를 투입했다. 이는 이전 미국 오픈웨이트 코딩 선두 모델 개발 비용의 약 10분의 1에 해당한다는 자체 추정이다.

강화학습 과정에서는 140만회의 롤아웃만으로 터미널벤치 2.1에서 80.5점을 달성했다. 롤아웃은 AI가 작업을 수행하는 과정을 생성하고 결과를 평가해 학습에 반영하는 단위다. 이전 선두 모델인 빔보다 약 70배 적은 롤아웃을 사용했다는 설명이다. 롤아웃 횟수가 적다는 사실이 연산 비용도 같은 비율로 줄었다는 의미는 아니다.

모델을 엔비디아의 소형 AI 컴퓨팅 시스템 'DGX 스파크'에서도 실행할 수 있도록 설계했다. 이를 위해 메모리 사용량을 줄인 NVFP4 버전도 함께 공개했다. 데이터센터용 B200 GPU 2개를 활용한 자체 시험에서는 여러 요청을 묶어 처리하는 조건에서 초당 약 250토큰의 생성 속도를 기록했다고 밝혔다.

리플-65B 프리뷰는 허깅페이스에서 가중치를 내려받을 수 있으며, 투게더AI와 GMI 클라우드, 오픈라우터 등 외부 서비스를 통해서도 이용할 수 있다. 아파치 2.0 라이선스를 적용해 상업적 이용과 수정, 재배포를 허용한다. 실제 서비스에서 이용할 수 있는 컨텍스트 길이와 처리 속도, 비용은 제공 업체에 따라 달라질 수 있다.

리커시브는 AI 모델과 이를 구동하는 반도체를 함께 개선하는 '풀스택 AI' 개발을 추진하고 있다. 이번 모델은 자체 반도체 설계 플랫폼에 활용하던 AI 기술을 범용 모델로 공개한 것으로, 매개변수 규모를 크게 늘리지 않고도 모델 구조와 학습 방식을 개선해 코딩 성능을 높일 수 있다는 가능성을 보여준다.

박찬 기자 cpark@aitimes.com