캘리포니아 AI 콘텐츠 표시 의무 시행 — 컴패니언 앱에는 무엇이 달라지나

8월 2일에 시행된 것

캘리포니아는 2024년 SB 942로 이 법을 통과시키며 준수 기한을 2026년 1월 1일로 잡았다. 그 날짜는 바뀌었다. 2025년 10월 13일 서명된 AB 853이 조문을 손보면서 시행일을 2026년 8월 2일로 미뤘다. EU AI법의 투명성 조항이 적용되기 시작한 바로 그날이고, 여러 법률사무소는 이를 의도적인 날짜 맞추기로 읽는다. 지난주부터 핵심 의무가 작동하고 있다.

의무는 세 가지이며, 모두 생성 시스템을 만든 쪽에 붙는다.

앞의 두 의무 사이의 비대칭에 주목할 만하다. 보이지 않는 표식은 의무이고 항상 붙지만, 눈에 보이는 표시는 사업자가 선택지로 제공해야 하는 것이다. 그러니 이 법의 기본 결과는 모든 AI 이미지에 워터마크가 찍히는 세상이 아니라, 메타데이터 속에 조용한 흔적이 남고 그것을 읽어주는 공개 도구가 존재하는 세상이다.

실제로 누가 대상인가

이 법이 의무를 지우는 대상은 "대상 사업자(covered provider)" — 월 방문자 또는 이용자가 100만 명을 넘고 캘리포니아 안에서 공개적으로 접근 가능한 생성 AI 시스템을 만들거나 구현하거나 생산하는 자다. 여기서 이 카테고리에 중요한 두 가지가 따라온다.

첫째, 기준선은 모회사의 전체 이용자 수가 아니라 생성 시스템 단위로 붙는다. 둘째, 컴패니언 앱 대다수는 이미지나 음성 모델을 직접 만들지 않는다 — 남의 것을 호출한다. 그 구조에서 표시 의무를 지는 쪽은 모델 제공자이고, 앱은 출처 데이터를 새기거나 새기지 않는 시스템의 고객이다. 따라서 앱 운영자에게 현실적인 질문은 "내가 대상 사업자인가"보다 "내가 쓰는 이미지 공급자는 출력물에 표식을 넣는가, 그리고 내 파이프라인은 리사이즈·재인코딩·스크린샷을 거치며 그 데이터를 지켜내는가"에 가깝다.

조문도, 현재 나온 해설도 특정 앱을 대상이라고 지목하지 않는다. 우리도 확인할 수 없는 월간 이용자 수치를 추측해 쓰지 않는다.

텍스트는 빠져 있다 — EU 규정과의 가장 큰 차이

공개 의무는 "이미지, 영상 또는 음성 콘텐츠, 또는 이들의 조합"을 대상으로 쓰였다. 텍스트만 생산하는 시스템은 규모가 얼마든 이 의무 밖에 있다. 채팅 중심의 컴패니언 앱이라면 대화 자체는 이 법이 건드리지 않지만, 생성된 셀카와 음성 메시지, 짧은 영상은 그렇지 않다.

유럽과는 실제로 갈리는 지점이다. EU AI법 50조가 적용되기 시작했을 때 다뤘듯, EU의 표시 의무는 생성 텍스트까지 미치고, 여기에 "지금 AI와 대화하고 있다"고 알려야 하는 별도 의무가 더해진다. 캘리포니아의 이 법은 둘 다 요구하지 않는다.

그리고 같은 자리에서 함께 언급되곤 하는 안전·연령 확인 규정과 혼동해서는 안 된다. 2026년 1월 1일부터 적용된 캘리포니아 SB 243은 컴패니언 챗봇 자체를 겨눈 법으로, 대화 중 AI 고지, 미성년자로 알려진 이용자에 대한 휴식 알림, 자기위해 대응 절차, 그리고 피해를 본 당사자가 직접 청구할 수 있는 위반당 1,000달러의 손해배상을 담고 있다. 투명성법이 다루는 것은 파일이 어디서 왔는지다. 한쪽을 지켰다는 사실은 다른 쪽에 대해 아무것도 말해주지 않는다.

캐릭터 앱 안에서는 어떻게 보이나

채팅 경험 자체가 바뀌어야 할 이유는 없다. 조용히 달라질 수 있는 것은 이런 부분이다.

• 생성 이미지의 메타데이터. AI 셀카를 내려받아 파일을 열어보면, 생성 시스템의 이름과 버전, 타임스탬프를 담은 서명된 기록(콘텐츠 크리덴셜 또는 그에 상당하는 것)이 들어 있다. 여기서 흔히 인용되는 규격은 서명된 메타데이터로서의 C2PA 콘텐츠 크리덴셜과 픽셀 층의 비가시 워터마크다. 메타데이터만으로는 스크린샷을 넘어 살아남지 못하기 때문이다.
• 내보낼 때의 표시 옵션. 공유·저장 화면에 "AI 생성물로 표시" 스위치를 노출하는 앱도 나올 것이다. 대상 사업자라면 그 선택지를 두는 것이 의무이고, 기본값을 켜둘지는 각자의 판단이다.
• 아마 한 번도 들어가지 않을 탐지 페이지. 쓸 데가 분명한 상황은 하나다 — 누가 이미지를 보내며 실사라고 주장할 때. 무료 도구는 그런 용도로 있다.
• 사진만이 아니라 음성도. 음성은 명시적으로 대상에 들어간다. 통화나 생성 음성 메모를 갖춘 컴패니언 앱은 이미지 생성기와 같은 의무 아래 있는데, 놓치기 쉬운 대목이다.

이 법이 생성 가능한 내용 자체를 제한하지는 않는다. 출처에 관한 규칙이지 콘텐츠에 관한 규칙이 아니며, 필터나 성인 콘텐츠, 연령 게이트와는 무관하다.

아직 남은 날짜들

뒤따르는 두 단계는 이미 법에 적혀 있다. 2027년 1월 1일부터 "대규모 온라인 플랫폼" — 이용자가 직접 만들지 않은 콘텐츠를 유통하는 공개 소셜미디어, 파일 공유, 대량 메시징, 단독 검색 서비스로서 직전 12개월간 고유 월 이용자가 200만 명을 넘은 곳 — 은 널리 채택된 표준에 부합하는 출처 데이터를 탐지하고, 있으면 이용자에게 알리고, 들여다볼 수 있게 하고, 알면서 제거하지 않아야 한다. 이 단계가 이 체계가 실제 인터넷에서 버틸지를 결정한다. 업로드 과정에서 지워지는 출처 데이터는 아무도 확인할 수 없는 출처 데이터이기 때문이다.

2028년 1월 1일부터는 카메라와 휴대전화 같은 촬영 기기 제조사가 촬영물에 출처 데이터를 넣을 수 있는 선택지를 제공하고, 기술적으로 가능한 범위에서 기본값으로 켜두어야 한다. 그림의 나머지 절반을 채우는 작업이다 — "모델이 만들었다"가 아니라 "렌즈가 기록했다"고 말하는 표식.

리뷰에서 확인하는 것

우리는 법적 적합성을 인증하지 않고, 법률가도 아니다. 기록할 수 있는 것은 관찰 가능한 동작이며, 사업자가 그냥 주장하고 넘어갈 수 있는 항목을 리뷰 방법이 어떻게 다루는지는 거기에 적혀 있다. 이번 달부터 이미지나 음성을 생성하는 앱은, 내려받은 파일에 출처 메타데이터가 조금이라도 들어 있는지, 내보낼 때 보이는 AI 표시 옵션이 있는지, 그리고 앱 자체의 공유 흐름을 통과했을 때 그 메타데이터가 살아남는지(중간에 벗겨지지 않는지)를 기록한다.

모두 범위가 좁고 확인 가능한 사실이다. 그리고 스토어 목록에서는 똑같아 보이는 두 앱 사이에서 가장 갈리기 쉬운 지점이기도 하다. 앱스토어 연령 등급에서 마주친 것과 같은 구도로, 배지보다 실제 동작이 훨씬 많은 것을 말해준다.

자주 묻는 질문