기사를 읽어드립니다.

앤트로픽이 '클로드'가 생성한 텍스트에 보이지 않는 워터마크를 넣기 시작하면서 AI 글쓰기를 둘러싼 사용자들의 반응이 속출하고 있습니다.

사실 구글의 '제미나이'도 이미 신스ID를 적용해 AI가 생성한 콘텐츠를 식별할 수 있습니다. 다만 일반 사용자가 이를 직접 활용하기에는 여전히 번거로운 방식입니다. 클로드는 아직 식별 도구는 공개하지 않은 상태입니다.

앤트로픽의 방식은 텍스트에 기계가 식별할 수 있는 신호를 삽입해 복사 및 붙여넣기나 일부 편집 이후에도 남도록 설계됐습니다. EU AI법의 AI 생성물 투명성 요구에 대응하기 위한 조치라고 설명했습니다.

그러나 일부 사용자들은 학교 과제나 직장 문서에 클로드를 사용했다는 사실이 드러날 수 있다며 반발하고 있습니다. 테크크런치에 따르면, 실제 사용자들은 “직장이나 수업에서 AI 사용이 들킬 수 있다”는 점을 문제로 제기하고 있습니다.

레딧에서는 다른 논쟁도 벌어지고 있습니다. 핵심은 AI가 글을 쓴 것과 AI가 글을 처리한 것은 같지 않다는 것입니다.

사람이 직접 작성한 문서를 클로드에 넣어 문단을 재구성하거나, 긴 보고서를 요약하거나, 표현을 다듬는 데 사용해도 AI 처리 흔적이 남을 수 있습니다. 한 레딧 이용자는 이런 경우에는 ‘AI가 작성했다(Written by AI)’는 표시와 ‘AI가 처리했다(Processed by AI)’는 표시를 구분해야 한다고 주장했습니다.

실제로 AI 글쓰기의 활용 영역은 이미 넓어졌습니다. 비즈니스인사이더는 학생의 과제나 작가의 소설뿐 아니라 이메일 초안, 내부 문서, 회의록, 연구 보고서, 슬랙 메시지 등 업무 과정에서 AI가 텍스트를 만드는 경우가 훨씬 많다고 지적했습니다. 이런 문서들은 문학 작품처럼 ‘인간이 직접 썼는가’가 결과물의 핵심 기준은 아닙니다.

직원이 직접 작성한 보고서에서 문장 표현만 클로드로 다듬은 경우와, 반대로 클로드에게 보고서의 핵심 내용을 모두 작성하게 하고 사람이 마지막으로 수정하는 경우는 분명히 다릅니다. 두 결과물에는 모두 AI 흔적이 남을 수 있지만 AI가 맡은 역할과 비중은 큰 차이가 있습니다.

AI 탐지 기술에서도 비슷한 문제가 나타납니다. 팡그램이라는 스타트업은 최근 AI가 작성한 이메일 등을 식별하는 기능을 준비하고 있지만, 탐지 과정에서 AI가 작성한 문장을 사람이 다시 고쳐 쓴 경우에도 AI로 판단하는 사례가 있었다고 합니다.

앞으로는 ‘AI가 썼는가’라는 이분법만으로 AI 사용을 판단하기 어려워질 수 있다는 지적이 나옵니다. 워터마크는 클로드가 텍스트 생성에 관여했다는 사실을 보여줄 수 있지만, 사람이 어느 정도 개입했는지까지 알려주는 것은 아니기 때문입니다.

물론 모든 AI 사용이 같은 의미를 갖는 것은 아닙니다. 학생이 과제 전체를 클로드에 맡기는 것과 자신이 쓴 글의 문법을 검사하는 것은 학교의 AI 사용 규정에 따라 전혀 다르게 평가될 수 있습니다. 

또 문학 작품이나 공모전처럼 인간의 창작 자체가 중요한 영역에서도 AI 사용 여부는 여전히 민감한 문제입니다. 반면 이메일이나 내부 업무 문서처럼 AI 사용 자체가 이미 널리 받아들여지는 분야에서는 워터마크의 의미가 상대적으로 작을 수 있습니다.

이 때문에 앞으로는 AI의 사용이 문제가 되지 않는 영역이 어디까지 확대될 것인지가 새로운 논점이 될 수 있습니다.

결국 이번 워터마크 논쟁은 AI가 결과물에서 어느 정도 역할을 했는지, 그리고 그 사실을 공개해야 하는 영역이 어디까지인지를 둘러싸고 컨센서스가 형성되는 과정으로 볼 수 있습니다. 실제 레딧에서도 수천개의 추천과 수백개의 댓글이 달릴 만큼 논쟁이 이어졌고, AI 사용을 숨길 필요가 없다는 의견과 AI를 일부 활용한 것까지 같은 방식으로 표시해서는 안 된다는 의견이 맞섰습니다.

이처럼 AI 사용 흔적을 남기는 기술이 확대되면 앞으로 질문도 달라질 수 있습니다. 'AI를 썼나'에서 'AI를 어디까지 썼나'로 넘어가는 것입니다.

특히 오픈AI가 '챗GPT'에 비슷한 기술을 적용한다면 논쟁은 더 커질 수 있습니다. 오픈AI도 EU의 AI 생성 콘텐츠 투명성 규정에 대응해야 하기 때문입니다.

이어 12일 주요 뉴스입니다.

■ 제미나이 앱, 월간 사용자 10억명 돌파..."구글 역사상 역대 최단 기록"

3년이 넘는 추격 끝에 제미나이 앱이 마침내 챗GPT와 어깨를 나란히 했습니다. 피차이 CEO는 축하 케이크 영상을 올리며 이를 자축했습니다. 그러나 현재 구글 내부는 모델 출시 지연과 조직 개편, 코딩 성능 부족 등으로 어수선한 것으로 보입니다.

■ 앤트로픽 미공개 모델, 160년 수학 난제 '리만 가설' 연구서 대기록

이제 첨단 모델들이 수학 난제를 해결했다는 소식은 새로운 것이 아닙니다. 또 이번 발표는 리만 가설을 완벽하게 증명한 것도 아닙니다. 하지만 리만 제타 함수의 비자명한 영점 가운데 가설을 만족하는 비율의 하한을 기존 41.6%에서 67.2%로 끌어올렸다는 것은 획기적인 성과로 꼽혔습니다.

■ 독파모 4개사, '벤치맥싱' 의혹 일축..."평가 보완책으로 영향 미미"

독파모 2차 평가 발표를 앞두고 업계에는 또 '벤치맥싱' 의혹이 떠돌았습니다. 참여사들은 모두 관련 의혹을 부인했습니다. 1차 평가 때도 흡사한 논란이 일어났고, 이에 따른 해명이 잇달았습니다. 이런 면도 '경쟁'으로 볼 수 있을지는 의문입니다.

AI타임스 news@aitimes.com