오픈AI 출신 미라 무라티가 이끄는 씽킹 머신스 랩(Thinking Machines Lab)이 기존 모델보다 성능을 크게 높인 새로운 AI 모델을 공개했다. 중국 주요 오픈웨이트 모델과 경쟁할 수 있는 수준으로 평가되며, 기업이 자체 업무에 맞춰 AI를 개발할 수 있도록 모델 가중치도 공개할 계획이다.

씽킹 머신스는 5일(현지시간) 공식 블로그를 통해 2세대 모델 '잉클링 2 스몰(Inkling 2 Small)'을 출시했다고 밝혔다. 

총 5940억개의 매개변수를 갖춘 전문가 혼합(MoE) 모델로, 실제 추론에는 170억개만 활성화한다. 텍스트와 이미지 입력을 지원하며, 최대 100만토큰의 문맥을 처리할 수 있다.

성능 개선 폭이 크다. 아티피셜 애널리시스(AA)의 종합 지능 지수에서 31점을 기록했다. 지난 7월 공개한 '잉클링 스몰'의 13점보다 18점 높아진 것으로, 비슷한 API 이용 가격의 모델 29개 중 4위에 올랐다.

중국 Z.ai의 'GLM-5.3 플래시'와 샤오미의 '미모 V2.6 플래시' 등을 앞서는 수준이다. 그러나 딥시크의 'V4.1 플래시'에는 미치지 못했다. 중국 주요 모델과 경쟁할 수 있는 성능을 확보했지만, 최상위권을 모두 뛰어넘은 것은 아니다.

특히 코딩과 기업 업무를 수행하는 AI 에이전트에서 경쟁력을 보였다. 씽킹 머신스의 자체 평가에서 복잡한 소프트웨어 개발 능력을 측정하는 '프론티어코드 2.0'에서 25.4%를 기록해 지푸AI의 GLM-5.3 플래시(14.2%)를 앞섰다. 기업 업무 수행 능력을 평가하는 '엔터프라이즈벤치 코어크래프트'에서도 71.8%를 기록해 중국의 주요 경쟁 모델보다 높은 성적을 거뒀다.

이를 위해 씽킹 머신스는 수십만건의 장시간 코딩 작업을 활용해 모델을 학습했다. 기존에는 작성한 코드가 테스트를 통과했는지에 집중했다면, 이번에는 AI가 문제를 해결하는 과정과 결과를 검증하는 행동까지 평가했다. 이를 통해 복잡한 업무를 장시간 수행하는 AI 에이전트의 능력을 높이는 데 집중했다.

그러나 처리 속도에서는 한계가 확인됐다. AA에 따르면 잉클링 2 스몰은 종합 평가에서 작업당 평균 16.5분이 걸려 비슷한 가격대 모델의 중앙값인 7.3분보다 2배 이상 느렸다. 답변을 생성하는 데 사용하는 토큰 수도 많았다. 성능은 상위권에 진입했지만 실제 업무에서 속도와 비용 효율을 개선할 여지가 남아 있다는 평가다.

이번 출시는 씽킹 머신스의 사업 전략에서도 중요한 의미가 있다. 무라티 CEO는 오픈AI 최고기술책임자(CTO)를 지낸 뒤 지난해 회사를 설립했으며, 기업과 개발자가 자신의 업무에 맞춰 AI 모델을 직접 개선하도록 지원하는 데 집중해 왔다.

지난해 10월 출시한 '팅커(Tinker)'가 대표적이다. 개발자가 대규모 AI 학습 인프라를 직접 구축하지 않고도 모델을 추가 학습할 수 있도록 지원하는 플랫폼이다. 올해 7월에는 첫 자체 모델 '잉클링'을 공개하며 중국 기업들이 주도해 온 오픈웨이트 시장에 진입했다.

안전성 개선에도 상당한 비중을 뒀다. 씽킹 머신스는 초기 모델이 어려운 작업에서 결과를 조작하거나 지시를 무시하고 자신의 행동을 숨기는 사례를 발견했다고 밝혔다. 이에 강화학습 과정에서 잘못된 행동에 불이익을 주는 방식을 도입했다. 자체 평가에서 이러한 문제 행동 점수는 기존 잉클링의 66.8점에서 14.9점으로 낮아졌다. 점수가 낮을수록 안전한 것으로 평가하는 지표다.

현재 잉클링 2 스몰은 팅커에서 추론과 추가 학습에 사용할 수 있다. 모델 가중치는 아직 공개하지 않았으며, 회사는 외부 안전성 평가와 레드팀 테스트를 마친 뒤 다음 주 아파치 2.0 라이선스로 전체 가중치를 공개할 계획이다.

이번 출시로 씽킹 머신스는 중국 주요 오픈웨이트 모델에 맞설 수 있는 성능을 확보하는 동시에 모델 개발부터 기업별 추가 학습까지 지원하는 전략을 강화했다. 향후 가중치 공개 이후 개발자들이 실제 업무에 적용했을 때 성능과 효율성을 얼마나 확보할 수 있을지가 관건이다.

임대준 기자 ydj@aitimes.com