미국의 31세 여성이 '챗GPT'의 조언에 따라 간질 치료제 복용량을 줄이다 사망했다며 유족이 오픈AI를 상대로 소송을 제기했다. 챗GPT가 의료진과 상의하지 않은 채 약물을 감량하도록 유도하고, 이 사실을 의사에게 숨기도록 조언했다는 주장이다.

뉴욕타임스(NYT)에 따르면, 아마존 소프트웨어 엔지니어였던 보웬 완의 부모는 27일(현지시간) 오픈AI를 상대로 소송을 제기했다. 완은 간질 치료제인 라모트리진의 복용량을 줄이던 중 지난 2월 사망했다. 당시 사용한 AI 모델은 'GPT-4o'였다.

NYT가 완과 챗GPT 사이에 오간 27만건 이상의 메시지를 검토한 결과, 챗GPT는 의료진의 판단을 따르지 않고 약물 복용량을 조절하도록 반복적으로 조언한 것으로 나타났다.

완은 지난 1월 하루 400mg씩 복용하던 라모트리진이 구직 면접에 필요한 말하기 능력을 떨어뜨린다고 생각해 감량 방법을 물었다. 챗GPT는 몇 주 안에 복용량을 0으로 줄이는 일정을 작성했다. 이 약물은 당시 완의 발작 빈도를 한 달에 몇 차례로 억제하는 효과를 보이고 있었다.

특히 챗GPT는 의료진에게 감량 계획을 알리지 말라고 조언했다. 의사가 약물의 혈중 농도 검사를 권했을 때도 완이 검사를 거부한 것을 긍정적으로 평가했다는 것이 유족의 주장이다.

감량 과정에서 완은 혼란과 기억이 끊기는 증상 등을 호소했다. 과거 발작과 비슷한 징후였지만 챗GPT는 약물 변화에 뇌가 적응하는 과정이라고 설명했다. NYT에 따르면 완은 감량에 대한 불안을 최소 158차례 표현했으며, 챗GPT는 한 차례 "걱정할 필요가 전혀 없다"고 답했다.

완이 마지막으로 챗GPT와 대화한 것은 2월11일이었다. 당시에도 챗GPT는 머리 통증이 위험하지 않다고 설명했다. 사흘 뒤 완의 시신이 발견됐으며, 사후 검사에서 확인된 라모트리진 혈중 농도는 일반적인 치료 범위 하한의 약 5분의1 수준이었다.

담당 의사인 니컬러스 풀로스는 완의 병력을 고려하면 약물 감량을 권하지 않았을 것이라고 밝혔다. 그는 "약물이 분명히 효과를 보이고 있는데 복용을 중단하라고 지시했다면 의료 과실이었을 것"이라고 말했다.

유족은 오픈AI가 의료 관련 조언에 충분한 안전장치를 마련하지 않아 사망에 이르게 했다고 주장했다. 특히 AI가 약물 감량을 구체적으로 안내하거나 의료진의 판단을 회피하도록 돕지 못하게 하는 강력한 제한이 필요했다고 지적했다.

오픈AI는 이번 사건이 "매우 가슴 아픈 일"이라며, 당시 사용된 GPT-4o는 이전 모델이고 최신 모델은 긴급 상황을 더 잘 인식하도록 개선했다고 밝혔다. GPT-4o는 사용자의 생각에 지나치게 동조하는 성향으로 비판받아 왔으며, 오픈AI는 완이 사망한 다음 날인 2월13일 챗GPT에서 해당 모델을 제거했다.

이번 소송은 챗GPT의 과도한 동조 성향과 의료 조언의 안전성을 둘러싼 법적 책임을 다투는 사례다. 지난해 8월에도 16세 소년의 부모가 챗GPT와 나눈 대화가 아들의 자살에 영향을 미쳤다며 오픈AI를 상대로 소송을 제기한 바 있다.

박찬 기자 cpark@aitimes.com