8월 2일부터 캘리포니아 AI 투명성법(CAITA)이 실제로 적용되기 시작했습니다. 캘리포니아 법이지만 대상은 “캘리포니아에서 접근 가능하고 월간 방문자 또는 사용자가 100만 명을 넘는 생성형 AI”라서, 우리가 매일 쓰는 서비스 대부분이 여기 들어갑니다. 이 글에서는 무엇이 의무가 됐는지, 콘텐츠를 만드는 사람 입장에서 무엇이 달라지는지, 그리고 이 법이 내게 의무를 지우는지를 나눠서 정리했습니다.
📌 핵심 요약
- 세 가지가 의무입니다. 무료 탐지 도구, 사용자가 켤 수 있는 눈에 보이는 표시, 그리고 파일에 심기는 잠재적 표식입니다.
- 대상은 서비스 제공사입니다. 다만 모델을 라이선스로 들여와 자기 서비스에 얹는 경우는 조문상 별도 책임이 붙습니다.
- 과태료는 위반 1건당 5,000달러이고, 어기고 있는 하루하루가 각각 별개의 위반으로 계산됩니다.
AI로 이미지·영상·음성을 만들어 쓰는 사람, 특히 그 결과물을 상업적으로 쓰는 사람에게 해당하는 이야기입니다.
무엇이 의무가 됐나
세 가지입니다.
무료 탐지 도구. 해당 서비스가 만들거나 변형한 콘텐츠인지 누구나 무료로 확인할 수 있는 도구를 제공해야 합니다. 출처 정보도 함께 보여야 합니다.
표시 선택권(manifest disclosure). 결과물에 “AI가 만들었다”는 눈에 보이는 표시를 넣을지 사용자가 고를 수 있어야 합니다. 강제로 박으라는 게 아니라 선택지를 줘야 한다는 의무입니다.
잠재적 표식(latent disclosure). 이미지·영상·음성 결과물에 워터마크나 콘텐츠 자격증명, 메타데이터 같은 형태로 눈에 보이지 않는 신호를 심어야 합니다. 나중에 다른 도구가 그 신호를 읽어 AI 생성물임을 판별할 수 있게 하는 장치입니다.
셋 중 실제로 체감이 큰 것은 세 번째입니다. 무료 탐지 도구는 제공사가 상시 갖춰야 하는 설비입니다. 사용자가 고를 수 있는 것은 눈에 보이는 표시 하나뿐입니다. 잠재적 표식에는 끄는 선택지가 없습니다.
콘텐츠를 만드는 쪽에서 달라지는 것
내려받은 이미지 파일 안에 “이건 AI가 만들었다”는 정보가 함께 들어온다는 뜻입니다. 화면에는 안 보이지만 파일에는 남습니다.
여기서 실무적인 문제가 생깁니다. 이미지를 편집하거나 형식을 바꾸면 그 표식이 살아남기도 하고 지워지기도 합니다. 메타데이터를 통째로 털어내는 압축 도구도 흔합니다. 표식이 사라졌다고 해서 그 이미지가 AI 생성물이 아니게 되는 것은 아닙니다. 표식을 일부러 제거하는 행위를 어떻게 볼지는 이 법의 문언만으로는 정리되지 않습니다.
이 법이 나에게 의무를 지우나
구독해서 쓰는 일반 사용자라면 아닙니다. 의무의 본체는 생성형 AI 서비스를 운영하는 제공사에 있습니다. 챗GPT나 미드저니로 이미지를 만들어 쓰는 개인·회사에게 이 법이 직접 의무를 지우지는 않습니다.
기준도 좁습니다. 캘리포니아에서 공개적으로 접근 가능하면서 월간 방문자 또는 사용자가 100만 명을 넘는 생성형 AI 시스템입니다.
다만 예외가 하나 있습니다. 모델을 라이선스로 들여와 자기 서비스에 얹는 경우입니다. 제공사는 계약으로 라이선시가 잠재적 표식 기능을 유지하도록 요구해야 합니다. 라이선시가 그 기능을 껐다는 사실을 알게 되면 96시간 안에 라이선스를 취소해야 합니다. 취소된 뒤에도 계속 쓰면 그때는 라이선시 본인이 금지명령과 변호사비 청구 대상이 됩니다. 남의 모델을 얹어 서비스를 파는 쪽이라면 이 조항이 자기 얘기입니다.
다만 결과물은 모두에게 옵니다. 의무가 없어도 표식이 붙은 파일을 쓰게 됩니다. 광고나 납품물에 AI 이미지를 쓰는 경우라면, 상대가 파일을 열어 확인할 수 있다는 전제로 일하는 편이 낫습니다.
처벌과 집행
캘리포니아 AI 투명성법의 과태료는 위반 1건당 5,000달러입니다. 무거운 건 계산 방식입니다. 지키지 않은 하루하루가 각각 별개의 위반으로 계산됩니다. 집행은 캘리포니아 주 법무장관과 시·카운티 법무 담당이 맡습니다.
왜 8월 2일인가
원래 이 법(SB 942)은 2026년 1월 1일 시행 예정이었습니다. 개정법 AB 853이 시행일을 미루면서 8월 2일로 옮겨졌습니다. 나머지 의무는 단계적으로 붙습니다. 2027년 1월 1일에는 AI 호스팅 플랫폼과 대형 온라인 플랫폼이, 2028년 1월 1일에는 이미지·음성·영상을 촬영하는 기기 제조사가 대상이 됩니다.
마지막 단계까지 가면 그 시점 이후 캘리포니아 판매용으로 처음 생산되는 기기부터 촬영 파일에 기본으로 출처 정보가 들어갑니다. 지금 쓰는 카메라나 휴대폰에 소급 적용되는 것은 아닙니다. AI 쪽에 표식을 심는 것과 반대 방향에서 접근하는 방식입니다. 진짜에 표식을 달아 두면 표식 없는 쪽이 의심받게 됩니다.
🔭 관전 포인트
- 주요 서비스들이 실제로 세 가지를 다 갖췄는지. 특히 무료 탐지 도구가 어디에 붙어 있는지 확인해 볼 만합니다.
- 편집·압축 과정에서 잠재적 표식이 얼마나 살아남는지. 이 법의 실효성이 여기서 갈립니다.
- 캘리포니아 기준이 전 세계 기본값이 되는지, 아니면 지역별로 다르게 동작하는지.
- 100만 기준을 삭제하려는 개정안(SB 1000)이 통과되는지. 통과되면 적용 범위가 훨씬 넓어집니다.
마무리
캘리포니아 AI 투명성법은 8월 2일부터 무료 탐지 도구, 눈에 보이는 표시 선택권, 파일에 심기는 잠재적 표식 세 가지를 의무로 만들었습니다. 대상은 월간 방문자·사용자가 100만 명을 넘는 서비스 제공사이고, 도구를 구독해 쓰는 개인에게는 직접 의무가 없습니다. 모델을 라이선스로 얹어 쓰는 쪽은 예외입니다. 과태료는 하루 단위로 쌓입니다.
AI로 만든 이미지를 쓰고 있다면 오늘 하나만 해 보시기 바랍니다. 최근에 내려받은 결과물 파일의 속성이나 메타데이터를 열어 무엇이 들어 있는지 확인하는 일입니다. 앞으로는 그 안에 무엇이 적혀 있는지가 실제로 문제가 됩니다.
AI 산업 경쟁 구도를 더 보려면 아래 글도 참고할 만합니다.
글쓴이 · K.Lee — 파티시에로 일하며 AI·자동화 도구를 실무에 매일 씁니다. 확인한 범위와 확인하지 못한 범위를 글 안에 밝힙니다. 운영자 소개 · 편집 원칙 · 수정 정책
출처: 캘리포니아 주 법령 원문 BPC §22757.3 · Morgan Lewis · Enterprise DNA
답글 남기기