비공개 앤트로픽 AI 모델을 활용해 18년간 풀리지 않았던 양자 컴퓨팅 분야의 난제 '아론슨-암바이니스(Aaronson-Ambainis) 추측'을 증명했다는 연구 결과가 나왔다. AI가 수학적 증명을 작성하고 컴퓨터를 통한 검증까지 통과한 것으로, 모델 개발사가 아닌 외부 기업이 자체 연구 시스템을 활용해 성과를 냈다는 점에서도 주목된다.
피지컬 슈퍼 인텔리전스(PSI)는 6일(현지시간) 공식 홈페이지를 통해 비공개 앤트로픽 모델을 활용한 자체 연구 시스템으로 아론슨-암바이니스 추측의 완전한 증명을 도출했다고 발표했다. 연구를 시작한 지 사흘째 되는 날 증명 초안을 완성했으며, 이후 수학적 논리의 오류를 검사하는 '린(Lean)'의 검증도 통과했다고 밝혔다.
PSI는 지난 9월 미국에서 출범한 AI 기반 물리학 연구 스타트업으로, 브레이크스루 에너지 벤처스 등이 참여한 5800만달러(약 800억원)의 초기 투자를 유치했다. 인간 과학자가 연구 방향을 설정하면 AI가 가설 수립부터 증명과 검증까지 수행하는 자율 연구 시스템을 개발하고 있다.
이번 연구에서도 PSI 연구원 데이비드 터투리언이 자체 연구 시스템을 구축하고 문제의 범위를 설정했다. AI는 수학적 증명과 논문 초안 작성에 참여했으며, 터투리언은 결과를 검토하고 논문의 정확성에 대한 책임을 맡았다.
PSI는 자체 인프라에서 아직 일반에 공개되지 않은 앤트로픽 모델을 활용했다고 설명했다. 그러나 구체적인 모델명과 접근권을 확보한 경위, 앤트로픽과의 협력 관계는 공개하지 않았다. PSI가 모델 자체를 보유했는지, 외부 서비스를 통해 이용했는지도 확인되지 않았다.
아론슨-암바이니스 추측은 스콧 아론슨과 안드리스 암바이니스가 2008년 제기한 문제로, 양자 컴퓨터가 일반 컴퓨터보다 얼마나 적은 데이터 조회만으로 문제를 해결할 수 있는지에 관한 것이다.
양자 컴퓨터는 특정 문제에서 일반 컴퓨터보다 압도적으로 빠른 성능을 낼 수 있다. 그러나 특별한 규칙이나 구조가 없는 무작위 데이터에서도 이러한 차이가 가능한지는 오랫동안 풀리지 않은 문제였다.
이번 증명은 특별한 구조가 없는 무작위 입력에서는 일반 컴퓨터도 양자 알고리즘의 결과를 상대적으로 적은 횟수의 데이터 조회만으로 근사적으로 예측할 수 있다는 사실을 보여준다. 즉, 양자 컴퓨터가 모든 문제에서 압도적인 우위를 갖는 것은 아니며, 큰 성능 차이를 내려면 문제의 수학적 구조가 중요하다는 점을 뒷받침한다.
이는 전체 계산 시간이 아니라 입력 데이터를 확인하는 횟수에 관한 결과다. 따라서 양자 컴퓨터가 일반 컴퓨터보다 빠를 수 없다는 의미는 아니다. 쇼어(Shor)의 소인수분해 알고리즘처럼 특별한 수학적 구조를 활용하는 문제에서는 여전히 큰 성능 우위가 가능하다.
앞서 스탠퍼드대학교 연구진은 지난 8월 이 추측의 일부 조건을 증명한 바 있다. PSI는 이번에 특정 조건에 국한되지 않는 전체 추측의 증명을 완성했다고 밝혔다.
연구 과정에서는 AI가 기존 결과를 스스로 개선하는 능력도 확인됐다. PSI 연구진이 관련된 다른 미해결 문제를 추가로 제시하자 시스템은 기존 증명을 두 차례 더 발전시켰다. 최종 결과는 수학적 증명의 각 단계를 컴퓨터가 검사하는 린 4(Lean 4)의 검증도 통과했다.
PSI는 공개한 논문과 증명 코드에 별도의 검증 절차도 적용했다고 밝혔다. 그러나 논문 전체가 형식적으로 검증된 것은 아니며, 컴퓨터가 확인한 수학적 명제가 원래 추측과 정확하게 일치하는지는 전문가의 추가 검토가 필요하다.
이번 연구를 검토한 스탠퍼드대학교의 가이 블랑, 조던 닥터, 카르멘 스트라슬레, 리양 탄 연구진은 "수십년 된 난제를 해결한 대단한 결과"라며 "여러 수학적 연구 흐름을 확장하고 하나로 결합한 증명"이라고 평가했다.
이번 사례는 AI가 수학적 난제의 해법을 제안하는 수준을 넘어 증명을 작성하고 개선하며, 컴퓨터가 검증할 수 있는 형태로 완성하는 연구 도구로 활용될 수 있음을 보여준다.
특히 모델 개발사가 아닌 외부 연구기관이 자체 연구 시스템과 최첨단 AI 모델을 결합해 성과를 냈다는 점에서 AI를 활용한 과학 연구의 새로운 가능성을 제시했다는 평이다.
박찬 기자 cpark@aitimes.com