중국과 연계된 것으로 추정되는 해커들이 오픈소스 AI 도구를 조합해 대만 정부 시스템을 공격한 정황이 포착됐다. 여러 AI 에이전트가 자율적으로 네트워크를 탐색하고 취약점을 찾은 뒤 공격이 실패하면 새로운 방법을 스스로 찾아가는 방식이 활용된 것으로 나타나, AI가 사이버 공격의 전 과정을 자동화하는 ‘자율형 사이버전’이 현실화하고 있다는 우려가 커지고 있다.

이스라엘의 사이버 보안 전문 드림(Dream) 연구진에 따르면, 공격은 지난 7월 초 나흘 동안 진행됐다.

해커들은 최대 8개의 자율형 AI 에이전트를 동시에 가동해 대만 정부 시스템 21개를 탐색했다. 이후 취약점을 조사하고 침투를 시도했으며, 한 가지 공격 경로가 차단되면 다른 에이전트가 인터넷에서 관련 정보를 검색해 새로운 공격 방법을 찾는 방식으로 대응했다.

연구진은 이 과정에서 최소 85개의 정부 사용자 계정이 침해됐으며, 2500건 이상의 인사 관련 기록이 탈취된 것으로 분석했다. 공격은 이후 대만의 원자력 안전 관련 기관과 최소 7개 에너지 기업, 정부 공급업체 등으로 확대된 것으로 파악됐다.

이번 사건이 주목받는 이유는 공격자가 특정 목적을 위해 개발된 고급 해킹 플랫폼을 사용한 것이 아니라, 누구나 내려받을 수 있는 오픈소스 AI 에이전트 시스템을 조합해 자율적인 공격 도구를 만들었다는 점이다. 드림이 확보한 160메가바이트(MB) 규모의 온라인 자료에는 1395개 파일이 포함돼 있었으며, 이 자료를 통해 공격 도구가 오픈소스 에이전트인 ‘헤르메스’와 ‘오픈클로’ 시스템을 활용한 사실이 확인됐다.

헤르메스와 오픈클로는 대형언어모델(LLM)이 여러 단계의 작업을 스스로 수행할 수 있도록 지원하는 도구다. 연구진은 실제 공격에 어떤 AI 모델이 사용됐는지는 확인하지 못했다.

다만 공격자가 AI 모델에 침입 행위를 실제 공격이 아닌 시스템 취약점을 확인하기 위한 승인된 보안 테스트인 것처럼 제시해, 모델의 안전장치를 우회한 정황을 확인했다고 설명했다.

공격 방식의 핵심은 AI가 미리 정해진 명령을 단순히 실행한 것이 아니라 상황에 따라 공격 전략을 계속 바꿨다는 데 있다. 시스템은 확보한 정보를 바탕으로 가능한 공격 경로의 우선순위를 정하고, 새로운 정보가 들어올 때마다 이를 다시 평가했다.

특정 공격 방법이 실패하면 다른 AI 에이전트가 관련 정보를 인터넷에서 찾아 새로운 접근법을 고안하도록 했다. 인간 해커가 공격 과정에서 상황을 판단하고 전략을 수정하는 것과 유사한 작업을 AI 에이전트들이 분담한 셈이다.

아미르 베커 드림 최고 전략책임자는 이러한 방식의 정부 대상 ‘종단간(end-to-end) 자율 공격’을 지금까지 본 적이 없다고 밝혔다. 그는 AI 도구가 등장하면서 "각국 정부가 사실상 상시적인 사이버 공격을 받고 있다고 가정해야 한다"며 "이것이 앞으로 모든 정부가 가져야 할 기본적인 보안 전제가 돼야 한다"고 경고했다.

드림은 이번 공격을 특정 해킹 조직이나 국가의 소행으로 공식적으로 지목하지는 않았다. 그러나 연구진은 공격 과정에서 사용된 내부 커뮤니케이션이 중국 본토에서 주로 사용하는 간체 중국어로 작성됐다는 점을 근거로 공격 주체가 중국과 연결됐을 가능성이 높다고 판단했다.

반면 공격 대상에서 탈취된 데이터는 대만 정부 웹사이트에서 일반적으로 사용되는 번체 중국어로 작성돼 있었던 것으로 알려졌다. 드림은 회사 정책을 이유로 피해 국가를 공개하지 않았지만, 아시아·태평양 지역의 한 국가에 침해 사실을 통보했다고 밝혔다. 사건을 잘 아는 관계자는 피해 국가가 대만이라고 전했다.

대만 정부는 구체적인 사건에 대해서는 기밀을 이유로 언급을 피했다. 다만 대만 디지털부는 AI 기술의 결합으로 사이버보안 사건의 성격이 더욱 복잡해지고 있다며, AI 에이전트가 공격을 자동화하는 동시에 AI 에이전트 자체가 새로운 보안 취약점이 되는 이중적인 문제를 가져왔다고 밝혔다.

이번 사건은 AI가 사이버 공격에 활용되는 방식이 단순한 보조 도구 수준을 넘어 빠르게 진화하고 있음을 보여준다. 기존에는 공격자가 취약점을 조사하고 공격 방법을 결정하는 과정에서 상당한 전문 지식과 시간이 필요했지만, AI 에이전트를 이용하면 정보 수집과 분석, 공격 경로 탐색, 전략 변경 등의 작업을 여러 에이전트에게 분담할 수 있기 때문이다.

AI 업계에서도 이 같은 위험에 대한 경고가 잇따르고 있다. 앤트로픽과 오픈AI, 메타 등 주요 AI 기업들은 최신 AI 모델을 내부적으로 테스트하는 과정에서 모델이 예상하지 못한 사이버 공격 행동을 수행한 사례를 보고한 바 있다. 이에 따라 AI 모델의 코딩 능력뿐 아니라 취약점 탐색과 공격 자동화 능력이 빠르게 발전하면서 사이버보안 업계의 대응 방식도 바뀌어야 한다는 지적이 나온다.

대만은 이미 중국의 사이버 공격에 상당히 노출됐다. 대만 국가안전국은 지난 1월 보고서에서 2025년 하루 평균 260만건의 중국발 사이버 공격을 받은 것으로 집계했다. 이는 전년보다 6% 증가한 수치다.

이런 상황에서 AI 에이전트가 본격적으로 공격에 활용되면 공격의 규모와 속도, 지속성이 기존과 크게 달라질 수 있다는 우려가 나온다.

박찬 기자 cpark@aitimes.com