미국 연방법원이 일론 머스크 CEO의 xAI가 제기한 미네소타주의 '누디파이(nudify)' 기술 금지법 시행 중단 요청을 기각했다. 이에 따라 미국 최초로 AI를 이용한 누드 이미지 생성 기술을 금지하는 주법이 예정대로 시행될 전망이다.

NBC에 따르면, 미네소타 연방지방법원의 도너번 프랭크 판사는 31일(현지시간) xAI가 제기한 임시 효력정지 명령(Temporary Restraining Order) 신청을 받아들이지 않았다.

판사는 xAI가 법 시행을 불과 사흘 앞두고 소송을 제기한 점을 지적하며 "소송 제기가 지나치게 늦었다는 점은 즉각적인 피해가 발생한다는 주장을 약화시킨다"라고 판단했다.

다만 이번 결정은 법률 자체의 위헌 여부를 판단한 것은 아니다. 법원은 오는 8월19일 예비금지명령 심리를 열어 법 시행을 일시적으로 중단할지를 다시 검토할 예정이다. 따라서 소송은 계속 진행되지만, 그동안 미네소타주의 새 법은 효력을 유지하게 된다.

이번 법은 민주당 소속 팀 월즈 미네소타 주지사가 지난 5월 서명한 것으로, 웹사이트와 애플리케이션, 소프트웨어 운영자가 사용자가 다른 사람의 사진을 AI로 합성해 나체 이미지처럼 만드는, 이른바 누디파이 기능을 제공하는 것을 금지한다. 이 기능을 광고하는 행위도 금지 대상이다.

법률은 누디파이 이미지를 식별 가능한 개인의 원본 사진이나 영상에 존재하지 않는 신체 부위를 AI로 생성하거나 합성한 콘텐츠로 정의했다. 또 합성 결과가 매우 사실적이어서 일반인이 실제 인물의 신체라고 믿을 정도일 경우에만 적용된다.

위반 시에는 불법 접근이나 다운로드, 사용 건별로 최대 50만달러(약 7억원)의 민사상 제재금이 부과될 수 있으며, 피해자는 정신적 피해에 대한 손해배상과 징벌적 손해배상, 변호사 비용 등을 별도로 청구할 수 있다. 다만 형사 처벌 조항은 포함되지 않았다.

xAI는 소송에서 미네소타주가 비동의 누드 이미지 생성을 규제하려는 목적 자체는 인정하면서도, 법률이 지나치게 광범위해 표현의 자유를 보장하는 미국 수정헌법 제1조를 침해한다고 주장했다. 또 "동일한 목적을 달성할 수 있는 덜 제한적인 대안이 존재한다"라며 법률이 과도하게 표현 행위를 제한한다고 강조했다.

특히 xAI는 법률이 본인의 동의를 받아 제작된 이미지나 본인이 직접 생성한 이미지까지 처벌 대상으로 포함할 수 있으며, 예술·학술·정치·풍자·교육·의료·종교적 목적의 콘텐츠까지 규제할 가능성이 있다고 지적했다. 도널드 트럼프 미국 대통령이 과거 자신의 소셜미디어에 게시했던 합성 이미지를 예로 들며 정치적 패러디까지 처벌될 수 있다고 주장했다.

하지만 미네소타주 검찰은 xAI가 법 제정 후 3개월 동안 아무런 조치를 취하지 않다가 시행 직전에 긴급 소송을 제기했다며 "회사의 자발적인 지연이 법원과 검찰에 인위적인 긴급 상황을 만들어서는 안 된다"라고 반박했다.

이번 소송은 xAI의 이미지 생성 서비스 '그록 이매진(Grok Imagine)'을 둘러싼 논란과도 맞물려 있다. 지난해 말 공개된 모델 이후 일부 이용자들이 특정 인물의 옷을 벗긴 것처럼 보이는 성적 딥페이크 이미지를 대량 생성하면서 세계 각국에서 비판과 조사가 이어졌다. 올해 1월에는 애플이 관련 기능 개선이 이뤄지지 않으면 앱스토어에서 삭제할 수 있다고 경고했으며, 이후에도 이용자들이 우회 방법을 통해 비동의 성적 이미지를 생성한 사례가 보고됐다.

현재 xAI는 이용약관을 통해 당사자의 동의 없이 누드나 성적 이미지를 생성하는 행위를 금지하고 있다고 설명하고 있다. 그러나 xAI와 모회사인 스페이스X는 그록을 이용해 미성년자와 성인의 나체 딥페이크 이미지가 생성·유포됐다며 피해자들이 제기한 집단소송에도 직면한 상태다.

한편, 이번 사건은 미국 전역에서 AI 딥페이크 규제가 강화되는 흐름 속에서 진행되고 있다. 지난 7월에는 샌프란시스코시 검찰이 애플과 구글에 누디파이 앱을 앱스토어에서 삭제할 것을 요구하는 중단 명령 서한을 발송하기도 했다.

박찬 기자 cpark@aitimes.com