앤트로픽이 ‘클로드’가 출력하는 텍스트와 파일에 눈에 보이지 않는 워터마크를 도입한다. 유럽연합(EU)의 AI 법(AI Act) 규제 준수를 위한 조치로, 클로드로 생성된 콘텐츠의 출처 추적과 팩트체크 방식에 큰 변화가 예상된다.   

앤트로픽은 10일(현지시간) 고객지원 도움말 문서를 통해 8월2일 이후 출시되는 신규 클로드 모델부터 기계 읽기(Machine-readable)가 가능한 보이지 않는 워터마크 시스템을 적용하기 시작했다고 밝혔다. 

적용 대상은 클로드 웹과 앱 서비스뿐만 아니라 개발자용 API, 클로드 코드, 클로드 코워크, 클로드 태그 등 앤트로픽의 전 제품군과 AWS, 구글 클라우드, 마이크로소프트 파운드리 등 제3자 클라우드 플랫폼을 통과하는 모델 출력물 전체에 해당한다.   

워터마킹은 두 가지 방식으로 적용된다. 텍스트 출력은 토큰 생성 단계부터 눈에 보이지 않는 고유 패턴을 직접 심어 넣는다. 사람이 읽을 때는 문장의 뜻이나 품질, 가독성에 아무런 차이가 없지만, 다른 곳으로 복사·붙여넣기를 하거나 일부 문장을 편집하더라도 식별 신호가 남아 있게 된다. 

이미지나 파일 형태(.svg, .png, .jpg 등)는 C2PA(콘텐츠 출처 및 진위 확인 규격) 오픈 표준 기반의 디지털 서명 메타데이터가 첨부돼 파일의 변경이나 위변조 여부를 가려낸다.   

이번 조치는 EU AI 법 제50조 2항에서 규정한 생성 AI 투명성 가이드라인을 준수하기 위한 것이다. 이에 따라 지난 2일부터 EU 내에서는 기업들이 사용자가 AI 시스템과 상호작용할 때 이를 명확히 알리고, AI가 생성한 이미지, 오디오, 비디오 및 마케팅 자료에 라벨을 부착해야 한다.

규정을 위반하는 기업은 전 세계 연간 매출의 최대 3% 또는 1500만유로(약 250억원) 중 높은 금액의 벌금을 부과받을 수 있다.

그러나 앤트로픽은 워터마크 존재만 가지고 콘텐츠의 실제 작성자가 누구인지 판단하기엔 한계가 있다고도 밝혔다. 사용자가 직접 작성한 글을 클로드에 넣어 교정이나 요약, 번역만 거친 경우에도 워터마크가 찍힐 수 있으며, 텍스트가 극도로 짧거나 문장이 완전히 재작성되면 워터마크 추적이 어려울 수 있다고 설명했다.   

앤트로픽은 외부 사용자와 제3자가 텍스트 및 파일 내 워터마크를 직접 검증할 수 있는 세부 감지(Detection) 기술 표준과 가이드라인을 조만간 추가로 공개할 방침이다.

임대준 기자 ydj@aitimes.com