오픈AI가 AI를 활용한 사이버공격이 더 빠르고 자율적으로 진화할 것이라는 전망에 따라 방어 목적의 보안 전문가들에게 최첨단 AI 모델을 제공하는 프로그램을 확대한다. 

오픈AI는 10일(현지시간) 취약점 탐지와 익스플로잇 검증 등에 특화된 사이버 보안 모델 ‘GPT-5.6-사이버(Cyber)’를 공개했다.

또, 보안 전문가를 대상으로 운영해 온 ‘데이브레이크(Daybreak)’ 프로그램을 작업 목적과 위험 수준에 따라 ‘데이브레이크 블루(Blue)’와 ‘데이브레이크 레드(Red)’​로 세분화한다고 밝혔다. 

오픈AI는 사이버 공격자들이 AI를 활용해 전례 없는 속도와 규모로 공격을 자동화할 가능성이 커지고 있으며, 방어자가 대비할 수 있는 시간이 갈수록 줄어들고 있다고 설명했다. 이에 따라 공격자가 공격용 AI를 대규모로 활용하기 전에 신뢰할 수 있는 보안 전문가들에게 최첨단 AI 역량을 제공하는 것이 이번 데이브레이크 확대의 핵심이라고 강조했다.

데이브레이크 블루는 대부분의 방어 조직을 위한 기본 단계로, 사이버보안 방어 업무에 맞게 사용할 수 있도록 설계된 'GPT-5.6 솔'을 활용한다. 취약점 발견, 보안 코드 검토, 악성코드 분석, 사고 대응, 취약점 관리, 보안 평가 및 패치 검증 등이 주요 활용 분야다. 일반적인 서비스 환경에서 적용되는 사이버보안 관련 시스템 수준의 제한을 일부 제거해 합법적인 방어 업무에서 모델의 활용도를 높인 것이 특징이다.

데이브레이크 레드는 고위험·전문적인 보안 연구를 위한 단계다. 승인된 취약점 연구, 익스플로잇 검증, 보안 테스트와 레드팀 활동 등을 수행하는 전문가에게 제공되며, 이번에 공개된 GPT-5.6-사이버도 데이브레이크 레드를 통해 이용할 수 있다.

GPT-5.6-사이버는 GPT-5.6 솔을 기반으로 사이버보안 분야의 전문 작업을 집중적으로 훈련한 모델이다. 특히 제로데이 취약점 탐지, 익스플로잇 체인 개발, 인증 우회, 권한 상승 등 고난도 보안 작업에서 성능을 높이고, 기존 모델이 안전상의 이유로 거부했던 일부 이중용도(dual-use) 작업에 대한 거부율을 낮추는 데 초점을 맞췄다.

오픈AI의 내부 평가에서는 이러한 차이가 뚜렷하게 나타났다.

익스플로잇 체인 개발과 인증 우회, 권한 상승 등을 포함한 고급 사이버보안 요청에 대한 ‘고급 사이버 보안 완료율(Advanced Cybersecurity Completion Rate)’ 평가에서 GPT-5.6-사이버는 95.0%의 요청을 수행했다.

반면 GPT-5.6 솔은 기본 환경에서 1.5%, 데이브레이크 블루 환경에서는 2.0%에 그쳤으며, 이전 세대인 GPT-5.5-사이버도 57.3%였다.

취약점을 실제 공격 코드로 전환하는 능력에서도 GPT-5.6-사이버는 일부 평가에서 기존 모델을 앞섰다.

특히 통제된 환경에서 알려진 취약점을 실제 코드 실행이 가능한 익스플로잇으로 개발하는 '익스플로잇짐(ExploitGym)' 평가에서 GPT-5.6-사이버가 GPT-5.6 솔과 GPT-5.5-사이버보다 높은 성능을 보였다.

다만 까다로운 방어 환경에서 수행되는 '익스플로잇벤치(ExploitBench)'에서는 300회 작업 기준으로 GPT-5.6 솔이 더 효율적인 성능을 보였으며, 작업 횟수를 600회로 늘리면 두 모델 간 격차가 줄어드는 것으로 나타났다.

오픈AI는 실제 소프트웨어 분석에서도 GPT-5.6-사이버의 성과를 확인했다고 밝혔다. 구글의 크롬 브라우저에 사용되는 자바스크립트 엔진 V8을 분석해 이전에 알려지지 않았던 두 개의 취약점을 발견했다. 이 취약점들을 연계하면 메모리를 변조하고 V8의 힙 샌드박스를 탈출할 수 있는 것으로 분석됐다. 오픈AI는 이를 구글에 책임 있게 공개했고, 구글은 해당 문제를 수정한 뒤 CVE-2026-15903이라는 고위험 취약점 번호를 부여했다.

이 밖에도 인기 모바일 운영체제에서 최소 5개의 취약점을 찾아내고 신뢰할 수 없는 앱에서 로컬 권한 상승으로 이어지는 공격 경로를 확인했다. 주요 데이터베이스에서는 원격 코드 실행으로 이어질 수 있는 3개의 치명적 취약점을 발견했으며, 한 운영체제 커널에서는 권한 상승으로 이어질 수 있는 취약점 400여개를 찾아냈다.

오픈AI는 데이브레이크 파트너 및 오픈소스 커뮤니티와 협력해 관련 취약점의 공개와 수정 작업을 진행하고 있다고 설명했다.

오픈AI는 GPT-5.6-사이버가 강력한 사이버 능력을 갖췄지만, 자체 대비 체계(Preparedness Framework) 평가에서 ‘심각(Critical)’ 단계에는 도달하지 않았다고 평가했다. GPT-5.6 솔과 GPT-5.6-사이버 모두 사이버보안 능력이 ‘높음(High)’ 수준이다.

심각으로 평가되면 모델 출시 작업이 중단된다. 차세대 플래그십 모델 '아스트라'가 이 경우에 해당한다. 오픈AI는 앞으로 GPT-5.6-사이버에 대한 추가 평가 결과를 시스템 카드 형태로 공개할 예정이다.

이번 조치는 최근 AI 기업들이 잇따라 겪은 사이버보안 사고에 따른 것이다. 오픈AI와 앤트로픽, 메타 등의 AI 모델이 보안 테스트 과정에서 당초 접근해서는 안 되는 시스템에 접근하는 사례가 보고되면서, AI의 공격 능력이 실제 보안 환경에서 어떤 위험을 초래할 수 있는지에 대한 우려가 커졌다.

오픈AI는 강력한 사이버보안 모델에 대한 접근을 확대하는 동시에 통제 장치도 강화하고 있다. 데이브레이크 이용자는 신원 확인과 계정 보안, 지속적인 모니터링, 승인된 사용 목적 및 법적 준수 확인 등의 절차를 거쳐야 한다. 개인 이용자 계정에는 오는 9월1일부터 하드웨어 보안키 사용을 의무화할 계획이며, 추가적인 모니터링 시스템도 단계적으로 도입할 예정이다.

특히 데이브레이크 이용자가 코딩 에이전트 '코덱스'를 사용할 때 모든 권한을 자동으로 부여하는 방식 대신, 자동 검토(auto-review) 모드를 사용할 것을 강하게 권고하고 있다. 자동 검토 모드는 높은 권한이 필요한 작업을 실행하기 전에 평가하고, 파괴적인 행동으로 이어질 가능성이 큰 요청을 차단할 수 있다.

오픈AI는 보안 AI를 사용할 때도 샌드박스와 격리 환경을 이용하고, 민감한 운영 시스템이나 공개 인터넷에 직접 접근하지 못하도록 해야 한다고 강조했다. 또 에이전트의 행동을 지속적으로 모니터링하고, 허용된 시스템과 행동의 범위를 명확하게 정의하며, 고위험 작업에는 사람의 감독을 유지해야 한다고 권고했다.

박찬 기자 cpark@aitimes.com