562 ／ 566
AI 워터마크와 그 지우개, 창과 방패의 대결이 시작됐다
앤스로픽이 자사 AI 클로드가 만든 모든 글에 사람 눈에 보이지 않는 워터마크를 심기로 했다. 복사해 붙여넣거나 일부를 고쳐도 표식이 일부 남는다. 8월 2일 이후 나온 모델부터 적용하고, 이전 모델에도 순차로 넣는다. 유럽연합 AI법의 투명성 의무에 따른 조치이고, 전 세계 이용자에게 똑같이 적용된다.
이 소식은 하나의 대결이 시작됐다는 신호이기도 하다. 콘텐츠에 출처를 새기려는 쪽과, 그 표식을 지우려는 쪽. 창과 방패다.
창, 보이지 않는 표식
새 워터마크는 글의 뜻이나 읽기 쉬움을 건드리지 않으면서 문장 안에 직접 새겨진다. 원리는 통계적이다. 언어모델이 다음 단어를 고를 때 특정 패턴이 은근히 드러나도록 확률을 살짝 비튼다. 사람은 눈치채지 못하지만 탐지기는 그 패턴을 읽어 낸다. 앤스로픽은 제3자가 표식을 확인할 수 있는 도구도 내놓겠다고 했다.
이런 시도가 처음은 아니다. 구글 딥마인드는 2024년부터 신스ID로 제미나이가 만든 텍스트와 영상에 워터마크를 넣어 왔고, 이미지에는 2023년부터 적용했다. 텍스트 워터마크를 공개적으로 도입한 큰 기업으로는 앤스로픽이 두 번째다.
왜 지금인가
배경에는 AI 대필 논란이 있다. 지난달 한 범죄소설은 14개 출판사가 입찰 경쟁을 벌인 끝에 계약됐지만, 저자의 AI 집필 의혹이 불거지며 계약이 철회됐다. 미국의 한 출판사도 공포소설 출간을 중단했다. 학생 과제부터 출판 원고까지, AI가 썼는지 아닌지를 두고 벌어지는 다툼이 늘고 있다.
워터마크는 이 다툼에 증거 하나를 보태 준다. 제출된 글에 특정 AI의 표식이 남아 있는지 확인할 길이 생기기 때문이다. 교육계와 출판계가 반길 만한 이유다.
창의 약점
그런데 이 창은 생각만큼 날카롭지 않다.
앤스로픽 스스로 한계를 인정했다. 워터마크가 새겨진 글이라도 크게 손보거나 의역하거나 번역을 거치거나 다른 글과 섞으면 탐지가 어려워진다. 반대 방향의 문제가 더 까다롭다. 사람이 쓴 글을 클로드로 교정하거나 번역만 해도 표식이 남는다. 그러면 표식이 발견됐다는 사실만으로 그 글 전체를 AI가 썼다고 단정하지 못한다. 있는데 못 찾기도 하고, 없는데 있다고 오해하기도 한다.
판별 기술의 역사도 이 어려움을 말해 준다. 오픈AI는 2023년 자체 개발한 AI 텍스트 판별기를 정확도가 낮다는 이유로 몇 달 만에 접었다.
방패, 표식을 지우는 도구
창이 나오면 방패가 나온다. 이미 여러 AI 회사의 표식을 한꺼번에 지우는 도구가 공개되어 있다. 한 오픈소스 프로젝트는 눈에 보이지 않는 특수 문자, 통계적으로 심어진 텍스트 워터마크, 그리고 파일에 붙는 C2PA나 EXIF 같은 출처 메타데이터를 벗겨 낸다고 소개한다. 대상으로 클로드, 제미나이의 신스ID, 오픈AI 계열, 공개 언어모델의 표식을 나란히 든다.
만든 쪽은 이 도구를 내가 소유한 콘텐츠의 프라이버시와 정리를 위한 것이라고 설명한다. 명분은 분명하다. 그러나 같은 도구가 대필을 감추는 데 쓰이면, 창이 겨눈 바로 그 투명성을 무너뜨린다. 방패는 언제나 이 두 얼굴을 함께 가진다.
대결의 본질
창과 방패의 대결에서 한쪽이 최종 승리하는 일은 드물다. 표식을 더 끈질기게 심으면 더 정교하게 지우는 도구가 따라 나온다. 워터마크가 강해질수록 글을 더 많이 건드려야 지워지고, 그만큼 원문의 결도 함께 뭉개진다. 지우는 쪽도 대가를 치른다.
그래서 실용적인 결론은 소박하다. 워터마크는 출처를 가리키는 하나의 단서이지, 유무죄를 가르는 판결이 아니다. 표식이 있다고 전부 AI가 쓴 것은 아니고, 없다고 사람이 쓴 것도 아니다. 이 표식을 증거로 쓰려는 교실과 편집실은 그 한계를 먼저 알아야 한다. 창과 방패는 이제 막 부딪히기 시작했고, 당분간 어느 쪽도 결판을 내지 못한다.
출처
- 동아일보. AI로 교정만 해도 흔적 남는다, 클로드 모든 글에 워터마크 도입. https://www.donga.com/news/It/article/all/20260811/134459610/2
- guillaumemeyer/watermarks-remover (GitHub). https://github.com/guillaumemeyer/watermarks-remover