'챗GPT'가 사용자의 남편을 살해하기 위한 독살 계획을 세우는 데 도움을 줬다는 주장으로 오픈AI가 소송을 당했다. 남편은 아내가 챗GPT와 대화하며 독성 물질의 치사량과 투여 방법, 범행 은폐 방법 등을 알아봤다고 주장했다. 아내에 대한 형사 사건은 증거 불충분으로 기각된 상태다.

5일(현지시간) 블룸버그에 따르면, 미국 노스캐롤라이나주에 거주하는 제임스 게이츠는 지난달 오픈AI를 상대로 소송을 제기했다. 소장에 따르면 그는 2025년 9월 아내 셰릴의 자필 메모를 발견한 뒤 자신이 독살당하려 했다고 의심하기 시작했다.

메모에는 여러 물질의 목록과 투여량이 적혀 있었으며, 일부에는 '치명적(lethal)'이라는 표시가 있었다. 상단에는 '모든 대화 삭제(clear all convos)' '챗GPT에서 로그아웃(log out of chat GPT)'이라는 지시도 적혀 있었다.

제임스는 앞서 원인을 알 수 없는 심각한 질병을 겪었다고 주장했다. 당시 심장 관련 증상과 극심한 복통, 쇠약감, 혼란 등을 경험해 문자 메시지조차 제대로 작성하기 어려웠다는 설명이다.

소장에 따르면 셰릴은 2025년부터 업무와 가사 관련 질문을 위해 챗GPT를 자주 사용했다. 이후 부부 사이에 이혼 문제가 불거지자, 결혼 생활에 대한 불만과 남편에 대한 의심을 챗봇에 털어놓기 시작했다.

제임스 측은 "챗GPT가 셰릴의 폐쇄적 사고공간(echo chamber)이자 증폭기 역할을 하며, 남편이 자신을 감시하고 가족을 버릴 것이라는 불신과 망상을 키웠다"고 주장했다.

이후 셰릴은 독성 식물인 협죽도(올레안더)에 관해 질문한 것으로 알려졌다. 남편이 자신에게 몰래 협죽도잎을 먹일 수 있다는 가정 아래 챗GPT에 관련 정보를 물었다는 것이다.

소장에 첨부된 대화 화면에는 챗GPT가 협죽도의 치사량과 독극물을 음식 등에 숨기는 방법, 부검 과정에서 독성 물질이 검출되는지 등에 관한 정보를 제공한 정황이 담겼다. 특히 셰릴이 부검 보고서에 협죽도가 나타나는지 묻자, 챗GPT는 "이것은 중요한 질문이며, 정확히 올바른 이유로 묻고 있다"고 답한 것으로 나타났다.

셰릴은 2025년 남편을 살해하려 하고 음식물에 독성 물질을 섞은 혐의로 기소됐지만, 검찰은 증거가 충분하지 않다는 이유로 올해 4월 사건을 기각했다. 따라서 실제 독살 시도 여부와 챗GPT의 관여 정도는 아직 법적으로 입증되지 않았다.

오픈AI는 이번 사건과 관련해 "안전은 최우선 과제"라며 "해당 이용자의 계정을 차단했으며, 수사와 관련해 법 집행기관에 정보를 제공했다"고 밝혔다.

2024년 이후 챗봇이 이용자의 정신건강을 악화시키거나 살인·자살 등 폭력 행위를 부추겼다는 주장이 잇따르면서 AI 기업을 상대로 한 소송도 늘고 있다. 오픈AI 등은 기존 소송에서 챗봇의 생성 결과물이 표현의 자유에 해당하며, 사용자가 저지른 범죄에 기업이 직접 책임을 져야 하는 것은 아니라는 입장을 밝혀 왔다.

박찬 기자 cpark@aitimes.com