3줄 요약

  • Anthropic이 8월 2일부터 전 세계 클로드(Claude) 생성 텍스트에 보이지 않는 워터마킹을 적용하고 있다. EU AI Act의 AI 생성 콘텐츠 표시 의무를 준수하기 위한 조치다.
  • 원리는 구글 딥마인드가 2024년 네이처 논문으로 발표한 SynthID-Text 방식 — 단어 선택의 “무작위성"에만 패턴을 심어 품질·속도·가격에 영향을 주지 않는다.
  • 9월 1일에는 워터마크 감지 API를 프라이빗 프리뷰로 공개했다. 규제기관·언론·팩트체커·연구자·교육기관 등 EU 법상 자격이 있는 조직과 컴플라이언스 의무 기업이 대상이다.

왜 중요한가

AI가 쓴 글을 사람이 쓴 글과 구분하는 일은 지금까지 사실상 불가능에 가까웠다. 기존 ‘AI 탐지기’는 문체의 습관(“this isn’t X, it’s Y” 같은 표현, 지나친 “quietly” 사용 같은)을 통계적으로 잡아내는 방식이라 오탐이 많고 우회도 쉬웠다. 허위정보, 표절, 과제 대필, 뉴스 조작 — 어느 쪽이든 “이 글이 AI 쓴 글인가"를 확인할 방법이 없다는 게 문제의 출발점이었다.

워터마킹은 발상을 뒤집는다. 생성 단계에서 모델 스스로 감별 가능한 흔적을 남기는 것. 그리고 이번엔 규제가 실제 제품을 바꿨다. EU AI Act가 8월 2일부터 EU 시장 AI 제공자에게 생성 콘텐츠 마킹을 의무화했고, Anthropic은 구글·메타 등 다른 주요 모델 개발사들과 함께 약 190개 서명자가 참여한 ‘AI 생성 콘텐츠 투명성 실무 강령(Code of Practice)‘에 7월 서명한 뒤 이를 실행에 옮겼다.

작동 원리 — ‘주사위 대신 원주율’

언어모델은 한 번에 한 단어씩 다음 단어를 고른다. “오늘 날씨가 흐리고…” 다음이 “침울한"일 확률은 낮고, “흐린"이냐 “잿빛의"냐처럼 둘 중 어느 쪽이어도 뜻이 거의 같은 선택이 자주 나온다. 이럴 때 모델은 무작위 수로 하나를 고른다.

워터마킹은 바로 이 지점을 건드린다. 무작위 수 생성기 대신 키(key)와 앞 단어들을 입력받은 규칙으로 같은 ‘무작위’ 선택을 하게 하는 것. Anthropic이 든 비유가 이해하기 쉽다:

모노폴리에서 매번 주사위를 굴리는 대신, 원주율 소수점 아래 숫자를 하나씩 읽어 주사위 눈으로 쓴다고 하자. 시작 위치만 무작위로 고르면 게임의 진행은 여전히 완전히 무작위처럼 보인다. 하지만 게임이 끝난 뒤 이동 기록 전체와 원주율 값을 비교하면, 이 게임이 주사위가 아니라 원주율로 진행됐는지 확률적으로 판별할 수 있다.

즉 워터마크는 텍스트에 뭔가를 추가하는 게 아니다. 숨은 문자도, 추가 토큰도 없다. 어느 쪽을 골라도 되는 자리에서의 선택이 특정 규칙과 일치하는지를 나중에 키로 검증할 뿐이다. 그래서:

  • 품질 무영향 — 딥마인드는 SynthID-Text 실험에서 젬미니 트래픽 일부에 워터마킹 모델을 서빙해 좋아요/싫어요 평가를 비교했는데 통계적으로 유의미한 차이가 없었고, 사람 평가자가 나란히 놓고 비교해도 차이를 못 느꼈다.
  • 속도·가격 무영향 — 추가 토큰이 없으니 응답 속도와 API 비용도 그대로다.
  • 개인 식별 불가 — 워터마크에는 사용자·조직·대화 정보가 전혀 없다. “클로드가 관여했는가"만 알 수 있고, 누가 썼는지는 알 수 없다.

이 방식은 2022년 스콧 애런슨(텍사스 주립대)이 제안한 계보에 속하며, Anthropic은 딥마인드의 SynthID-Text를 변형해 쓴다고 밝혔다. 참고로 한국어처럼 단어 선택의 폭이 다른 언어에서도 같은 원리가 적용된다 — 선택지가 갈리는 지점이 어디냐의 문제일 뿐이다.

감지 API — 누가 쓸 수 있나

9월 1일 업데이트로 감지 API가 프라이빗 프리뷰로 열렸다. 대상은 EU 법에 따라 자격이 주어지는 조직들 — 규제기관, 법집행기관, 언론, 팩트체커, 독립 연구자, 교육기관, EU 시민사업체(EU 시민사회 단체), 그리고 자체 컴플라이언스를 위해 검증이 필요한 기업. 접근 범위는 시간이 지나며 확대할 계획이다.

이미지·파일은 별도 방식이다. 클로드가 PNG·JPG·SVG 같은 파일을 만들면 C2PA 콘텐츠 크리덴셜(암호로 서명된 메타데이터)을 붙인다. 카메라 제조사와 포토 편집 소프트웨어가 쓰는 것과 같은 공개 표준이며, C2PA를 이해하는 도구라면 무엇이든 읽을 수 있다. 텍스트 워터마크와 달리 파일 내용은 전혀 바뀌지 않는다.

코드·번역·교정은 어떻게 되나

재미있는 디테일이 몇 개 있다.

  • 번역은 워터마크가 남는다. 모든 단어를 클로드가 고르기 때문.
  • 코드는 워터마크가 희박하다. “2 + 2 =” 다음에 “4"말고 다른 답은 없듯, 코드는 정확해야 하는 자리가 많아 선택의 여지가 적다. 다만 코드 안 주석처럼 어느 쪽이어도 되는 표현에는 심긴다.
  • 사실 나열문도 희박하다. “뉴턴의 가장 유명한 저작은 프린키피아…” 다음은 ‘마티카’ 하나뿐이라 워터마크가 작동할 자리가 없다.
  • 가벼운 교정은 잡히지 않을 수 있다. 사람이 쓴 글을 클로드가 문법만 고쳐주면 워터마크가 붙을 ‘선택’ 자체가 몇 개 없다.

남은 한계

Anthropic이 스스로 공개한 한계도 그대로 적어둔다.

  1. “클로드가 관여했을 확률"만 답한다. 사람이 썼다는 확증도, 다른 AI가 썼다는 판별도 아니다. 오히려 다른 회사 워터마크는 키가 다르니 감지되지 않는다.
  2. 짧은 글에는 약하다. 단어 선택 기회가 적어 판별 정보가 부족하다. 길어질수록 신뢰도가 올라간다.
  3. 전면 재작성하면 사라진다. 가벼운 편집으로는 지워지지 않지만 모든 단어를 바꾸면 지워진다 — 다만 그 경우 이미 “AI가 쓴 글"이라 부르기도 애매해진다.
  4. “썼는가"와 “고쳤는가"를 구분 못 한다. 클로드가 썼든 대폭 편집했든 같은 판정이 나온다.
  5. 적용 시점. 8월 2일 이전에 출시된 구형 클로드 모델은 EU 법의 전환기간 대상으로, 워터마킹이 몇 달에 걸쳐 순차 적용된다.

업계 흐름

Anthropic만의 움직임이 아니다. 같은 실무 강령에 서명한 구글·메타 등 주요 개발사들도 각자의 방식으로 워터마킹을 도입할 예정이며, 업계 전반에서 AI 생성 콘텐츠 출처 표시가 표준으로 자리 잡는 중이다. 기존 상업용 AI 탐지 서비스(팡그램 등)와는 방법 자체가 다르다 — 습관을 통계로 잡는 게 아니라 키로 서명을 검증하는 것이니까.

한 가지 주목할 점: Anthropic은 지역별 적용이 기술적으로 어려워 전 세계에 일괄 적용했다. EU 규제가 사실상 글로벌 표준을 만드는 ‘브뤼셀 효과’가 AI 텍스트에서도 실제로 작동하는 첫 사례로 볼 수 있다.

앞으로 볼 포인트

  1. 감지 API의 일반 공개(GA) 시점과 요금제
  2. 구글·메타의 워터마킹 구현 방식과 상호 호환성
  3. 구형 클로드 모델의 워터마킹 순차 적용 완료 시점
  4. EU 집행기관의 마킹 의무 감독 실태
  5. 워터마크 우회·제거 시도와 이에 대한 방어 연구

출처