유럽연합(EU)의 AI 규제법(AI Act)에 따른 첫 소비자 대상 투명성 규제가 본격 시행되면서 기업들이 대응책 마련에 분주해졌다. 

파이낸셜타임스(FT) 등에 따르면, EU의 규정에 따라 2일(현지시간)부터 유럽 내 기업들은 사용자가 AI 시스템과 상호작용할 때 이를 명확히 알리고, AI가 생성한 이미지, 오디오, 비디오 및 마케팅 자료에 라벨을 부착해야 한다.

규정을 위반하는 기업은 전 세계 연간 매출의 최대 3% 또는 1500만유로(약 250억원) 중 높은 금액의 벌금을 부과받을 수 있다.

이번 규제는 소비자 보호와 투명성을 강화하려는 취지로 도입됐다. 헨나 비르쿠넨 EU 기술 담당 집행위원은 "AI 콘텐츠와 챗봇의 투명성과 신뢰성을 확보하기 위해 이번 규정이 필수적"이라고 강조했다.

쿨리 로펌의 패트릭 반 에케 변호사는 이를 "AI 분야의 '쿠키 배너(Cookie Banner)'와 같은 순간"이라고 평가했다. 쿠키 배너는 웹사이트에 접속했을 때 '사용자의 인터넷 방문 기록(쿠키)을 수집·추적해도 될까요'라고 물어보는 알림창을 말한다. 즉, 지금까지 추상적이었던 AI 법이 소비자 실생활에 눈으로 확인되는 라벨 형태로 직접 작동하기 시작했다는 설명이다.

그러나 산업계 일부에서는 규제의 불확실성과 과도한 부담에 대한 우려를 제기하고 있다. EU 집행위원회가 시행 불과 몇주 전에 지침을 발표하면서 기업들이 적응할 시간이 부족했다는 지적이다. 

연간 마케팅 자료의 90%를 AI로 생성하거나 보정하는 독일 온라인 쇼핑몰 잘란도는 이번 지침이 "불필요한 규제 계층을 추가했을 뿐 원하는 수준의 명확성을 제공하지 못했다"라고 비판했다. 유럽상업연합회와 IT 업계 로비단체 CCIA 유럽도 무분별한 라벨링이 소비자에게 피로감을 줄 수 있으며 혁신을 저해할 위험이 있다고 경고했다.

반면 체스닷컴이나 부킹닷컴 등 일부 기업은 이미 사용자가 AI와 대화 중임을 알리는 정책을 시행해 오고 있어 이번 조치가 서비스 신뢰도를 높이는 계기가 될 것으로 보고 있다.

EU 집행위원회는 산업계의 의견을 반영해 단순 사진 수정 등은 예외로 처리, 불필요한 라벨 남발을 방지했다고 해명했다. 

한편, 이번 투명성 규정은 2024년 8월 발효된 AI 규제법의 단계적 시행 계획의 일부에 불과하다. '챗GPT' 등 고위험 시스템에 대한 규제 시행일은 기술 업계와 일부 EU 회원국의 압력으로 2027년 12월로 연기됐다.

임대준 기자 ydj@aitimes.com