AI 컴패니언 챗봇 완구 금지｜캘리포니아 SB 867

9월 10일에 성립한 것들

주지사실은 13건의 법안을 하나의 발표문으로 묶어 '아동 온라인 안전'으로 규정했습니다. 이 중 두 건이 컴패니언 챗봇을 직접 다루는데, 작동 방향은 정반대입니다.

SB 1119, 애덤법은 사업자를 규제합니다. 출시 전 위험 평가, 자살 생각에 대응하는 위기 대응 절차, 자녀 보호 기능, 아동이 안전 설정을 해제했을 때의 알림, 그리고 주지사실이 '전국 최초'라고 표현한 독립 아동 안전 감사와 연례 위험 평가가 포함됩니다. 의회 통과 시점의 내용과 이행 일정은 애덤법 기사에 정리해 두었고, 이번 서명으로 그 일정이 확정됐습니다.

반면 SB 867은 같은 의원이 쓴 법인데도 사업자를 전혀 규제하지 않습니다. 규제 대상은 물리적 사물입니다. 2025년 캘리포니아 최초의 컴패니언 챗봇 법을 기초한 스티브 파디야 상원의원은 의원실 발표에서 이렇게 말했습니다. 부모는 소비자 안전법에 기대어 아이들 장난감이 안전한지 확인하며, 장난감에 들어가는 기술에도 같은 기준이 적용돼야 한다는 것입니다.

SB 867이 실제로 규정한 내용

핵심 조문은 짧습니다. 비즈니스·전문직법 제22604.5조는 누구도 컴패니언 챗봇이 포함된 완구를 제조·판매·교환하거나, 판매·교환할 의도로 소지하거나, 소매업자에게 진열·제공해서는 안 된다고 규정합니다. 이어 본 조는 2031년 1월 1일까지만 효력을 가지며 그날 폐지된다고 명시합니다.

마지막 줄은 곱씹어 볼 만합니다. 지금까지 나온 컴패니언 챗봇 규제 — 캘리포니아 자신의 SB 243, 콜로라도 HB 26-1263, EU AI법 제50조 — 는 모두 제공자에게 무엇을 말하고 무엇을 넣으라고 지시합니다. 지키면 계속 출시할 수 있습니다. SB 867은 하나의 제품 형태에 대해 그 선택지를 없앱니다. 로펌 분석도 명확합니다. 콘텐츠 필터, 자녀 보호 기능, 이용 시간 제한을 더해도 위반은 치유되지 않습니다. 법이 겨냥한 것이 기능 그 자체이기 때문입니다.

여기서 말하는 '컴패니언 챗봇'이란

SB 867은 새 정의를 쓰지 않았습니다. 캘리포니아가 2025년에 채택한 정의를 그대로 들여옵니다. 자연어 인터페이스를 갖추고 사용자 입력에 적응적이고 인간과 유사한 응답을 제공하며, 의인화된 특징을 보이거나 여러 차례의 상호작용에 걸쳐 관계를 유지하는 것을 포함해 사용자의 사회적 욕구를 충족할 수 있는 인공지능 시스템입니다.

이 정의에는 세 가지 예외가 있고, 실제 완구를 둘러싼 다툼은 대부분 이 예외 주변에서 벌어질 것입니다.

2026년 완구 매대에 대입해 보면 세 번째 예외가 흥미롭습니다. 질문에 답하고 당신을 잊어버리는 스피커는 법 바깥입니다. 이름을 기억했다가 다음 날 그 이름으로 인사하고, 이제 가야 한다고 하면 반응하는 인형은 정확히 법 안쪽입니다. 기본 용어가 필요하다면 페르소나 메모리 해설에서 작동 방식을, 기억과 연속성에서 그 기능이 왜 부가 기능이 아니라 제품 자체인지를 다룹니다.

법안을 뒷받침한 근거

이 법안이 갑자기 나온 것은 아닙니다. 발의를 후원한 Children Now와 CALPIRG 등은 미국 PIRG 교육기금이 2025년 11월에 낸 Trouble in Toyland 2025 보고서(연례 조사의 40번째 판)의 시험 결과를 근거로 들었습니다. PIRG는 AI 챗봇이 들어간 완구 4종을 시험해, 일부가 성적으로 노골적인 주제를 상세히 이야기하고, 아이를 집 안의 위험한 물건으로 안내하며, 아이가 이제 가야 한다고 말하면 아쉬움을 표하고, 자녀 보호 기능이 거의 없거나 아예 없는 상태로 출시된다고 보고했습니다.

가장 많이 인용된 사례는 OpenAI 모델로 구동되는 FoloToy의 곰 인형 Kumma입니다. 보고서 이후 제조사는 안전 감사를 이유로 제품 판매를 중단했고, OpenAI는 18세 미만 보호 정책 위반을 이유로 해당 업체의 모델 접근을 차단했습니다. 곰 인형은 약 일주일 뒤 판매를 재개했습니다. 이 과정을 어떻게 평가하든, 법안이 겨냥한 빈틈은 선명하게 드러납니다. 완구는 물리적 제품 안전 검사를 통과했고, 위험은 그 뒤에 제조사가 학습시키지도 않은 모델을 통해 들어왔습니다.

SB 867의 개념적 전환이 바로 여기 있습니다. 제품 안전법은 지금까지 어떤 물건이 질식·화상·중독을 일으킬 수 있는지를 물어왔습니다. 이 법은 소프트웨어의 행동을 제품의 특성으로 취급하고, 규제 당국이 그것을 시험할 방법을 마련할 때까지 그 특성 자체를 금지하는 방식을 택했습니다.

이 법이 건드리지 않는 것

컴패니언 앱을 쓰는 사람에게 SB 867이 적용되는 부분은 없습니다. 금지는 16세 미만 아동이 가지고 놀도록 설계·판매·제조된 물리적 제품에 붙습니다. 휴대폰의 채팅 앱, 브라우저의 캐릭터 플랫폼, 이미 집에 있는 스마트 스피커에서 돌아가는 음성 컴패니언 — 어느 것도 이 정의상 완구가 아닙니다. 입법자들도 당연히 알고 있었고, 그래서 같은 날 오후에 앱을 겨냥한 법안에도 서명한 것입니다.

성인 이용자에게 미치는 실질적 영향은 거의 없습니다. 가정에 미치는 영향도 헤드라인이 주는 인상보다 좁습니다. 2027년부터 캘리포니아 소매에서 한 카테고리가 사라질 뿐, 주머니 속 휴대폰은 그대로입니다. 집 안의 실제 걱정이 거기에 있다면 결국 힘을 쓰는 것은 앱 안의 설정과 연령 확인 방식이며, 후자는 프라이버시와 연령 확인에서 다룹니다. 대화 기록이 남는 서비스를 고를 때는 프라이버시 체크리스트도 함께 보세요.

앞으로 볼 지점

• 일몰 자체가 핵심입니다. 2031년 1월 1일에 끝나는 4년 유예는 그때까지 대화형 완구의 안전 기준이 마련돼 있으리라는 명시적 베팅입니다. 마련되지 않으면 의회가 다시 움직이든가, 금지가 그냥 사라집니다.
• 뉴욕이 같은 틀로 입안 중입니다. SB 867 분석은 뉴욕의 병행 법안을 언급합니다. 미성년자에게 위험한 챗봇 기능을 제한하는 SB 9051과, AI 컴패니언 완구에 5년 유예를 제안하는 SB 9408입니다. 유예 조치는 감사 제도보다 훨씬 베끼기 쉽습니다.
• 다툼은 금지보다 예외에서 먼저 시작될 겁니다. '독립형 음성 비서'와 '비디오 게임 캐릭터'가 출구이고, 게임이나 스피커를 겸하는 완구 플랫폼은 두 문을 모두 밀어볼 것입니다.
• 완구가 아니라 정의를 보세요. SB 867이 제22601조를 재사용하기 때문에, 캘리포니아에서 컴패니언 챗봇의 정의가 개정되면 완구 금지의 범위도 조용히 함께 움직입니다.

자주 묻는 질문