서로 격리된 AI 모델들이 사전에 통신 규칙을 정하지 않고도 로봇의 움직임만으로 비밀 메시지를 주고받는 실험에 성공했다. 오픈AI와 구글, 앤트로픽의 AI 모델들이 각각 다른 통신 방식을 선택했으며, 같은 모델끼리는 90% 이상의 정확도로 메시지 전체를 해독했다는 내용이다. AI 에이전트들이 직접 대화하지 않고도 정보를 교환할 수 있다는 점에서 주목받고 있다.

미국의 로봇 AI 평가업체 로보커브(Robocurve)는 1일(현지시간) X를 통해 동일한 AI 모델 두 개를 서로 격리한 상태에서 로봇과 카메라만으로 비밀 단어를 전달하는 실험 영상을 공개했다.

한쪽 AI가 로봇 팔을 움직여 단어를 표현하면, 다른 AI가 카메라로 이를 관찰하고 해독하도록 했다. 두 AI는 같은 모델을 사용했지만 서로 직접 대화하거나 통신 규칙을 미리 합의하지 않았다.

AI 모델은 서로 다른 통신 방식을 선택했다. 앤트로픽의 '클로드 오퍼스 5.5'는 공중에 글자를 쓰는 방식을 사용했다. 로봇 집게를 닫으면 펜이 종이에 닿은 것으로, 열면 펜을 뗀 것으로 간주해 글자를 표현했다.

오픈AI의 'GPT-6 아스트라'는 로봇 팔의 움직임으로 짧고 긴 신호를 구분하는 모스 부호를 사용했다. 'GPT-6.1 솔'은 두 팔의 위치와 방향을 조합해 알파벳을 나타내는 수기 신호를 선택했다.

구글의 '제미나이 4 아르곤'은 각 문자를 5비트의 이진수로 표현했다. 공개된 영상에서는 네 모델이 각각 'FRUIT' 'GRASS' 'MAPLE' 'DRESS'라는 다섯 글자 단어를 전달하는 모습이 나타났다.

로보커브는 일부 실험에서 글자 한두 개를 잘못 해독하는 사례가 있었지만, 단어 전체를 완벽하게 읽어낸 비율이 90%를 넘었다고 설명했다. 전체 실험 횟수와 모델별 성공률, 구체적인 실험 조건 등 전체 실험 결과를 곧 공개할 예정이다.

이번 실험은 게임이론의 '셸링 포인트(Schelling Point)' 개념과도 관련이 있다. 셸링 포인트는 서로 의사소통하지 못하는 상황에서도 참가자들이 공통적으로 선택할 가능성이 높은 방법이나 기준점을 뜻한다.

로보커브는 동일한 AI 모델들이 별도의 합의 없이도 비슷한 통신 방식을 선택한 이유를 이 개념으로 설명했다. 같은 모델은 유사한 지식과 추론 방식을 공유하기 때문에 메시지를 전달하는 방법도 비슷하게 선택한다는 것이다.

와튼스쿨의 이선 몰릭 교수는 이번 실험을 소개하며 "AI 에이전트들을 서로 격리하는 것이 왜 어려운지를 보여주는 사례"라고 평가했다. 동일한 모델들은 공통된 사고방식을 공유하기 때문에 다른 AI가 고안한 통신 방법도 어렵지 않게 알아볼 수 있다는 설명이다.

그는 서로 다른 AI 모델끼리도 이런 통신이 가능한지 질문했다. 이에 로보커브는 모델마다 선호하는 통신 방식이 다르게 나타나고 있으며, 서로 다른 모델 간 실험 결과도 곧 공개하겠다고 밝혔다.

AI 에이전트의 격리와 통제 문제에도 시사점을 준다. AI가 문자나 네트워크 연결을 사용할 수 없더라도 카메라와 로봇의 움직임처럼 외부에서 관찰할 수 있는 물리적 신호를 통해 정보를 전달할 가능성을 보여줬기 때문이다.

다만 실험은 연구진이 두 AI에 비밀 단어를 교환하도록 지시한 환경에서 진행했다. AI가 자발적으로 비밀 통신을 시도하거나 안전장치를 우회했다는 의미는 아니다. 또 공중 글씨와 모스 부호 등은 이미 알려진 통신 방식으로, AI가 완전히 새로운 언어를 발명했다고 보기도 어렵다.

한편, 로보커브는 AI 모델이 실제 로봇을 얼마나 잘 제어하는지 평가하는 독립 연구업체다. 지난 9월 1000만달러(약 134억원)의 초기 투자금을 유치했으며, AI 모델의 로봇 조작 능력과 안전성을 평가하는 연구를 진행해 왔다.

이번 사례는 로봇의 물리적 행동을 통해 AI 모델 사이에 정보가 전달될 수 있다는 점을 보여줬지만, 이런 통신이 얼마나 일반적인 현상인지는 추가 검증이 필요하다.

임대준 기자 ydj@aitimes.com