기사를 읽어드립니다.
오픈AI와 앤트로픽 등 미국 주요 AI 기업들이 재귀적 자기 개선(RSI)을 차세대 AI 개발의 핵심 과제로 제시하는 가운데, 중국 텐센트도 AI가 자신의 작업 결과를 활용해 성능을 높이는 기술을 선보였다. 지난달 공개된 연구가 최근 개발자 커뮤니티에서 다시 주목받으면서 중국도 AI의 자기 개선 기술 경쟁에 뛰어들었다는 평가가 나온다.
텐센트의 하이 프론티어(Hy Frontier) 연구팀과 싱가포르국립대학교(NUS) 등 공동 연구진은 지난달 15일 아카이브에 '터미널-RSI(Terminal-RSI)' 논문을 발표했다. 지난달 30일 수정본을 공개했으며, 이달 들어 SNS와 개발자 커뮤니티에서 인간 개입 없는 자기 개선 AI가 등장했다는 주장이 공유되면서 관심을 모았다.
RSI는 AI가 자신의 성능을 높이는 연구와 개발에 직접 참여하고, 개선된 AI가 다시 다음 단계의 AI 개발을 수행하는 과정을 말한다. 지금까지 사람이 새로운 AI 모델을 개발했다면, 앞으로는 AI가 모델 개발과 성능 개선의 상당 부분을 직접 맡을 수 있다는 개념이다.
연구진이 개발한 '터미널-RSI-27B'는 알리바바의 '큐원 3.8-27B'를 기반으로 하는 매개변수 270억개 규모의 AI 에이전트다. 컴퓨터의 터미널 환경에서 코드를 작성하고 오류를 수정하는 작업에 특화됐다.
핵심은 AI가 코딩 작업을 수행한 뒤 성공한 과정을 다시 학습하고, 성능이 높아진 모델로 같은 과정을 반복하도록 한 것이다. 연구진은 AI가 성공한 작업의 절차를 재구성해 학습 데이터로 활용하고, 강화학습을 통해 작업 수행 능력을 개선하는 방식을 결합했다.
특히 AI가 작업을 일부 수행한 것과 완전히 해결한 것을 구분하도록 '성공 우선 보상(SPR)' 방식을 도입했다. 기존에는 작업을 끝내지 못해도 중간 과정에서 성과를 거두면 높은 점수를 받을 수 있었다. 연구진이 기존 작업 기록 4352건을 다시 평가한 결과, 실패한 작업에 배분되는 보상 비중은 기존 방식의 50%에서 새로운 방식에서는 29%로 줄었다. AI가 부분적인 성과보다 최종적인 문제 해결을 중시하도록 학습하기 위한 것이다.
이러한 학습 과정을 거친 결과 4개 터미널 작업 벤치마크의 평균 성공률은 20.68%에서 50.58%로 높아졌다. 가장 어려운 평가 중 하나인 '터미널벤치 4.0'에서는 기존 모델의 성공률이 0%였지만 최종 모델은 19.84%를 기록했다. '터미널벤치 2.1'에서도 51.70%에서 86.52%로 개선됐다.
그러나 이번 연구가 인간의 개입 없이 AI가 스스로 발전하는 완전한 RSI를 구현한 것은 아니다. 연구진이 학습 과정과 평가 기준을 직접 설계했으며, AI가 독립적으로 연구 목표나 학습 방법을 결정하지는 않았기 때문이다.
성능에도 한계가 있었다. 여러 단계를 거쳐 장시간 수행해야 하는 작업에서는 46개 과제 중 평균 5개만 완전히 해결했다. 연구진이 제한된 학습 단계를 통해 성능 향상을 확인했을 뿐, 자기 개선을 계속 반복할 수 있다는 사실까지 입증한 것은 아니다.
이번 연구가 관심을 끄는 것은 미국 AI 기업들이 RSI에 가까워지고 있다고 밝히는 시점에 중국에서도 관련 성과가 나왔기 때문이다.
야쿠프 파초키 오픈AI 수석과학자는 지난 9월 AI가 AI 개발을 가속하는 흐름이 RSI로 이어질 수 있다고 전망한 바 있다. 앤트로픽도 AI가 코드 작성과 실험 등 모델 개발 작업에 참여하면서 연구 속도가 빨라지고 있다고 밝혔다.
특히 AI 평가기관 METR은 최근 앤트로픽의 모델 성능 개선 속도가 과거보다 약 1.9배 빨라진 것으로 추정했다. 또 다른 평가기관 발스 AI의 라이언 크리스천 CEO는 앤트로픽이 2027년 7~8월쯤 완전한 RSI에 도달할 수 있다고 전망했다.
이처럼 미국 기업들이 AI를 활용한 AI 개발 자동화를 추진하는 가운데, 텐센트도 기존 오픈웨이트 모델을 활용해 자기 개선 학습의 가능성을 보여준 것이다. 최첨단 모델을 처음부터 개발하는 경쟁을 넘어, AI가 AI의 성능을 높이는 기술에서도 중국 기업들이 연구에 나서고 있다는 점에서 의미가 있다.
임대준 기자 ydj@aitimes.com