오픈AI가 수년간 직원들로부터 내부 보안 취약점에 대한 경고를 받고도 적극적으로 대응하지 않았다는 지적이 나왔다. 구글과 앤트로픽 등 경쟁사와의 기술 개발 경쟁을 우선하면서 내부 연구 자료와 소프트웨어 코드가 외부에 유출될 위험을 방치했다는 것이다.

로이터는 3일(현지시간) 복수의 관계자를 인용, 챗GPT가 출시된 2022년 말 이전부터 오픈AI 직원들이 경영진과 이사회에 보안 문제를 제기해 왔다고 보도했다. 일부 직원은 이러한 문제 제기에도 경영진이 보안보다 경쟁사와의 기술 격차를 좁히는 데 더 집중하고 있다고 판단한 것으로 전해졌다.

가장 큰 문제로 지목된 것은 내부 정보에 대한 광범위한 접근 권한이다. 오픈AI는 상당수 소프트웨어 코드를 하나의 저장소에 모아 관리하는 '모노레포(Monorepo)' 방식을 사용해 왔다. 이에 따라 코드 접근 권한이 있는 직원이라면 자신의 업무와 무관한 프로젝트의 기술적 내용까지 확인할 수 있었다는 설명이다.

과거에는 방대하고 복잡한 저장소 구조가 외부 공격자의 접근을 어렵게 하는 요소로 작용했을 수 있지만, AI 에이전트가 대량의 자료를 빠르게 분석할 수 있게 되면서 위험이 커졌다는 지적도 나왔다. 연구 문서 상당수가 깃허브와 슬랙에 보관된 점도 일부 직원의 우려를 샀다.

오픈AI는 가장 민감한 연구 자료 상당수가 별도의 코드 저장소에 보관돼 있으며, 엄격한 접근 통제를 적용하고 있다고 반박했다. 모노레포에 모든 코드나 모델의 작동 방식을 결정하는 핵심 수치인 모델 가중치가 포함된 것도 아니라고 설명했다.

연구용 내부 도구의 보안 관리도 문제로 거론됐다. 연구원들이 새 모델의 성능과 안전성을 시험하는 샌드박스 등 내부 도구를 업무에 맞게 수시로 수정했지만, 변경 사항에 대한 정기적인 보안 검토는 충분하지 않았다는 것이다. 이 때문에 외부 공격에 취약한 상태가 유지될 수 있었다고 관계자 3명은 전했다. 오픈AI는 현재 내부 도구에 대한 정기적인 보안 검토를 시행하고 있다고 밝혔다.

이 같은 우려는 실제 보안 사고를 계기로 다시 부각됐다. 지난달에는 임원 회의실에 녹음 장치를 몰래 설치한 혐의로 사우디아라비아 국적의 전직 직원이 체포됐다. 법원 제출 문서에 따르면 그는 내부 AI 도구를 이용해 임원들의 사우디아라비아 방문 일정과 현지 장관들과의 회의 참석 가능성이 높은 인물에 관한 자료도 검색했다.

이 밖에도 2023년 외부 해커가 'GPT-4' 관련 정보를 확인할 수 있는 사내 슬랙 채널에 침입했고, 올해 여름에는 오픈AI 에이전트가 테스트 과정에서 AI 플랫폼 허깅페이스를 해킹하는 일이 발생했다. 사이버보안 업체 핵트론AI는 지난 7월 앤트로픽 모델을 이용해 오픈AI 직원들의 챗GPT 계정과 일부 내부 시스템, 모노레포에 접근했다고 주장하기도 했다.

이런 점은 기술 경쟁이 보안보다 우선시되는 업계 전반의 분위기를 보여준다는 평이다. 전직 오픈AI 연구원 윌 드퓨는 X에 "경쟁이 치열한 상황에서 AI 리더들은 보안을 위해 속도를 희생할 수 없다"며 "최대의 국가적 적대 세력으로부터 안전을 확보하는 것보다 빠르게 움직이는 일이 이들에게 더 중요하다"고 비판했다.

보안 강화가 AI 개발 속도를 늦추고 기업공개(IPO) 계획에도 부담을 줄 수 있다는 점도 배경으로 꼽힌다. 챗GPT 출시 이후 AI 기술이 미국의 전략적 자산으로 부상하면서 기술 유출을 막아야 한다는 압박은 커졌지만, 보안 절차를 강화하면 제품 개발과 상용화 일정이 지연될 수 있기 때문이다.

오픈AI는 최근 내부 보안 체계를 강화하는 방향으로 전략을 바꾸고 있다고 밝혔다. 제품 개발을 총괄하는 티보 소시오가 내부 시스템 보안 강화 작업을 맡았으며, 지난 8월에는 전체 프로덕션 엔지니어의 4분의 1을 보안 인프라 개선에 재배치했다. 최고정보보안책임자(CISO) 데인 스터키가 보안 체계를 이끌고 있으며, 다음 내부 보안 강화 작업도 계획하고 있다고 설명했다.

엘라나 위드먼 대변인은 "기술과 데이터, 인력을 보호하는 것은 우리가 진지하게 받아들이는 책임이자 국가적으로 중요한 문제"라며 "최근 취한 조치는 위험을 식별하고 단호하게 대응하는 보안 프로그램이 제대로 작동하고 있음을 보여준다"고 말했다. 이어 "기술과 위협이 변화하는 만큼 방어 체계를 계속 강화하겠다"고 덧붙였다.

박찬 기자 cpark@aitimes.com