기사를 읽어드립니다.
앤트로픽이 AI를 활용해 차세대 모델의 성능 개선 속도를 약 2배 높였다는 연구 결과가 나왔다. 최근 훈련을 마친 미공개 모델 3개도 확인돼, AI가 더 뛰어난 AI를 개발하는 재귀적 자기개선(RSI)이 현실화할 가능성에 관심이 쏠리고 있다.
AI 안전 연구기관 METR은 5일(현지시간) 앤트로픽의 AI 연구개발 가속에 대한 독립 평가 보고서를 공개하고, 지난해 10월 이후 앤트로픽의 모델 성능 개선 속도가 이전보다 약 1.9배 빨라졌다고 밝혔다. 이는 과거 약 2년 동안 이뤄졌던 수준의 성능 향상을 최근에는 1년 만에 달성했다는 의미다.
METR은 지난 8월12일부터 10월29일까지 11주 동안 앤트로픽의 내부 자료와 모델 평가 결과를 분석하고, 직원 약 15명을 인터뷰했다. 특히 외부에 공개하지 않은 최신 모델들의 성능까지 확인해 개발 속도를 측정했다. 그 결과 2024년 3월부터 2025년 10월까지와 비교해 모델의 성능 개선 속도가 크게 높아진 것으로 나타났다.
이 같은 개발 가속에는 AI의 기여가 컸던 것으로 분석됐다. METR은 2026년 10월 기준 개발 가속분의 약 80%가 AI를 연구개발(R&D)에 활용한 결과라고 추정했다. 다만 이는 내부 자료와 연구원 인터뷰 등을 종합한 판단으로, 정확한 기여도를 확정하기는 어렵다고 설명했다.
특히 이번 개발 가속은 단순히 AI 훈련에 투입하는 컴퓨팅 자원이 더 빠르게 증가했기 때문은 아닌 것으로 나타났다. 훈련용 컴퓨팅 자원의 증가 속도가 빨라진 것이 이번 가속의 원인은 아니라고 판단했다. AI를 연구개발에 활용하는 방식 자체가 모델 성능 발전을 촉진하고 있다는 분석이다.
앤트로픽 연구원들은 코드 작성과 실험 설계, 결과 분석 등에 클로드를 적극 활용하고 있다. 사내 설문에서는 최신 내부 모델을 활용할 때 개별 직원의 생산성이 평균 약 12배 높아진다는 응답도 나왔다. 그러나 일부 직원의 주관적인 평가인 만큼 실제 생산성 향상 정도를 입증하는 자료로 보기 어렵다고 지적했다.
실제 연구원 인터뷰에서도 개발 방식의 변화가 확인됐다. 한 연구원은 "이제 아이디어와 컴퓨팅 자원만이 병목이다. 더 이상 코드 작성에 발목 잡히지 않는다"고 말했다. 또 다른 연구원은 클로드를 활용하면서 이전에는 하루나 이틀이 걸리던 실험 구현 작업을 훨씬 쉽게 수행할 수 있게 됐다고 설명했다.
보고서에는 앤트로픽의 내부 모델인 '미소스 프리뷰'와 '미소스 5'도 등장한다. 연구원들이 자체 평가한 생산성 향상 수준은 미소스 프리뷰에서 약 4배, 미소스 5에서 약 5배로 높아졌으며, 최신 미공개 모델인 '모델 4(Model 4)'에서는 약 12배에 달했다.
미공개 모델 3개의 존재도 이번 보고서에서 확인됐다. 앤트로픽은 올해 7월과 8~9월, 9~10월에 각각 새로운 모델의 훈련을 마쳤지만 아직 외부에 공개하지 않았다. 이들 모델을 '모델 2(Model 2)'와 '모델 3(Model 3)', '모델 4'라는 임시 명칭으로 구분했다. 가장 최근 모델은 기존 성능 개선 추세를 대체로 이어간 것으로 나타났다.
특히 이들 미공개 모델은 개발 가속을 측정하는 데도 중요한 근거가 됐다. METR은 앞서 앤트로픽이 공개한 성능 개선 속도 1.7배보다 높은 1.9배라는 결과가 나온 주요 이유로 최신 미공개 모델의 평가 결과를 포함한 점을 꼽았다.
이는 앤트로픽이 일반 사용자에게 공개한 모델 외에도 내부 연구에 활용할 수 있는 최신 모델을 확보하고 있다는 의미다. 성능이 높은 내부 모델을 연구개발에 먼저 투입하면 후속 모델의 개발 속도를 높일 수 있다. 하지만 이번에 확인된 모델 3개가 어떤 클로드 제품군에 속하는지, 실제 출시할 예정인지는 알려지지 않았다.
AI가 인간 연구원의 업무를 보조하는 단계를 넘어, 모델 개발 과정에 독자적으로 기여하기 시작한 초기 징후도 발견했다고 밝혔다. 현재는 인간의 지시와 감독을 받는 작업이 대부분이며, 모델 훈련의 핵심 단계에서 AI가 중대한 연구를 완전히 자율적으로 수행하는 수준에는 도달하지 못했다. 그러나 일부 분야에서는 이러한 능력이 가까운 시일 내 등장할 가능성을 보여주는 사례가 확인됐다는 설명이다.
이는 AI가 더 뛰어난 AI를 개발하고, 새로 개발된 AI가 다시 다음 세대 모델의 개발 속도를 높이는 RSI로 이어질 수 있다는 점에서 중요하다. 아직 완전한 자율적 자기개선이 실현된 것은 아니지만, AI가 연구개발 속도를 실제로 높이고 있다는 정량적인 증거가 확보된 것이다.
앞으로 12개월 동안 개발 가속을 크게 늦출 만한 컴퓨팅 자원이나 데이터, 알고리즘상의 뚜렷한 제약도 발견하지 못했다고 밝혔다. 이에 따라 AI 모델의 성능이 높아질수록 연구개발 속도도 계속 빨라질 가능성이 있다고 평가했다. 아직 파악하지 못한 제약이 존재할 수 있어 향후 가속 정도를 확신하기는 어렵다고 덧붙였다.
이번 평가에서는 앤트로픽이 자체적으로 설정한 AI 연구개발 가속 위험 기준도 쟁점이 됐다. 별도로 공개한 앤트로픽의 AI 연구개발 위험 보고서 검토 결과에서 지난 7월 기준으로 이미 개발 가속에 관한 조기 경고 기준에 도달했을 가능성이 있다고 지적했다.
앤트로픽은 당시 기준에 도달하지 않았다고 판단했지만, METR은 내부 자료의 일부 수치가 이를 뒷받침하기에 충분하지 않다고 평가했다. 그러나 당시 모델이 연구개발을 완전히 자동화하거나 직접적인 재앙적 위험을 초래할 가능성은 낮았다는 앤트로픽의 판단에는 대체로 동의했다.
보고서의 핵심 근거 상당 부분이 비공개 처리됐다는 점도 주목된다. 앤트로픽은 경쟁사의 AI 개발에 활용될 수 있다는 이유로 개발 가속의 세부 분석과 데이터·알고리즘의 기여도, 미래 모델의 성능 예측 등을 공개하지 않았다. METR은 핵심 결론을 자유롭게 발표할 수 있었지만, 주요 근거가 공개되지 않아 외부 연구자들이 결과를 독립적으로 검증하기 어렵다고 밝혔다.
AI의 개발 가속이 계속될 경우 모델의 능력 발전 속도가 안전성 평가와 통제 기술의 발전을 앞지를 수 있다고 경고했다. 특히 새로운 모델이 다음 모델의 연구개발을 더 빠르게 만드는 과정이 반복되면 인간이 예상하지 못한 속도로 AI 능력이 발전할 수 있다는 분석이다.
박찬 기자 cpark@aitimes.com