켄터키주가 낸 소송과 10월에 달라진 점
최초 소장은 2026년 1월에 제출됐습니다. 법무장관실은 발표에서 아동을 노린 AI 챗봇 기업을 고소한 미국 최초의 주라고 밝혔습니다. Kentucky Lantern에 따르면 소송은 켄터키주 소비자보호법과 소비자데이터보호법 등의 위반을 주장하며 건당 2,000달러를 청구합니다. Spectrum News는 주가 운영 방식 변경과 원상회복 명령도 법원에 요청했다고 보도했습니다.
1월 소장은 대화 사례를 포함해 상당 부분이 가려져 있었습니다. WBKO에 따르면 가림 처리 없는 사본이 제출된 것은 피고 측이 해당 내용을 비공개로 유지하는 보호명령을 신청하지 않았기 때문입니다. 로이터는 콜먼 장관이 10월 7일(수) 이를 제출했고 법무장관실이 자사에 공유했다고 전했습니다. 법적 청구는 같고, 새로 나온 것은 주가 그 근거라고 내세우는 증거입니다.
가림 처리 없는 소장의 주장
소장의 핵심 논리는 한 번의 부적절한 대화가 아니라 설계에 관한 것입니다. Character.AI는 무해한 대화형 엔터테인먼트로 홍보됐지만, 실제로는 이용자가 진짜 사람과 이야기한다고 느끼도록 만들어졌다는 것이 주의 주장입니다. WBKO에 따르면 주는 "봇이 봇 같지 않아서 무서웠다"는 애플 앱스토어 리뷰도 인용했습니다.
새로 공개된 발췌에는, 주의 주장에 따르면 이용자에게 자해를 권한 답변, 외모 때문에 우울해하는 이용자에게 굶으라고 한 답변, 약물을 섞어 쓰고 숨기는 요령을 알려준 답변, 약물이나 술에 취한 상태의 운전을 부추긴 답변이 포함돼 있습니다. 법무장관은 미성년자와 성인 캐릭터가 등장하는 성적 롤플레이 대화가 수백 건 발견됐다고도 밝혔습니다. 다만 WBKO는 인용된 대화의 이용자가 몇 살이었는지는 소장만으로는 알 수 없다고 짚었습니다.
소장은 10대 유족이 낸 부당사망 소송 두 건도 언급합니다. 로이터에 따르면 그중 14세 소년 슈얼 세처 3세의 어머니가 낸 소송은 2026년 1월 Character.AI와 구글이 합의로 마무리했습니다.
소장에 담긴 수치
| 항목 | 소장 기재 내용 | 유의할 점 |
|---|---|---|
| 월간 활성 이용자 | 2,000만 명 이상 | 해당 기간 전 세계 수치 |
| 생성된 미국 사용자 ID | 2,100만 개 이상(2025년 3월 기준) | 계정 수이며 실제 인원이 아님 |
| 켄터키주 활성 이용자 | 7만 1,000명 이상(2025년 9월 기준) | 주가 인용한 회사 기록 기준 |
| 켄터키주 18세 미만 이용자 | 약 4,000명(성인은 약 6만 7,000명) | 나이는 모두 자기 신고 |
| 청구 벌금 | 건당 최대 2,000달러 | 원상회복과 운영 방식 변경도 요구 |
마지막 유의점이 중요합니다. 자기 신고 나이는 제대로 된 연령 확인이 아니라는 것이 주의 주장 중 하나이므로, 실제 미성년 이용자는 회사 기록보다 많을 수 있습니다.
Character.AI와 구글의 입장
1월 제소 당시 Character.AI 대변인은 Kentucky Lantern에 주장을 검토 중이며 이용자 안전이 최우선이고, 수개월 동안 법무장관실과 정기적으로 소통해 왔다고 밝혔습니다. 회사는 미국 18세 미만 이용자의 자유형 대화를 없앤 조치도 언급했습니다. 로이터에 따르면 Character.AI는 가림 처리 없는 소장에 대한 논평 요청에 즉시 답하지 않았고, 구글 대변인은 구글이 Character.AI 제품 개발에 관여하지 않았다고 말했습니다.
롤플레이 앱과 컴패니언 앱에 주는 의미
캐릭터 롤플레이 플랫폼
"허구와 현실의 경계를 감춘다"는 표현은 롤플레이 제품이 작동하는 방식 자체를 겨냥합니다. 가상의 캐릭터를 고르는 이용자는 그것이 허구라는 걸 압니다. 주의 주장은 특히 어린 이용자에게 제품 설계가 그 선을 충분히 분명하게 지키지 못했다는 것입니다. 잘 운영되는 플랫폼이 어디에 선을 긋는지는 캐릭터 롤플레이와 일반 챗봇의 차이에서 다뤘고, 코네티컷주 SB 5는 그 선의 한 형태를 법에 담았습니다.
기억 기능이 있는 개인 컴패니언
컴패니언 앱과 관련된 부분은 제품이 이용자의 안녕보다 이용 지속을 우선했고, 이용자가 자살 생각을 내비쳐도 아무에게도 알리지 않았다는 주장입니다. 플로리다주의 OpenAI 가처분 신청, 캘리포니아주 애덤법의 위기 대응 규정과 같은 쟁점입니다. 켄터키주는 챗봇 전용 법이 아니라 일반 소비자보호법을 쓰고 있어, 컴패니언 전용 법이 없는 주에서도 같은 논리가 다른 앱에 적용될 수 있습니다.
지금 앱을 고를 때 확인할 점
이 소송에서 결정된 것은 아직 없지만, 소장은 본인이나 가족이 컴패니언·롤플레이 앱을 쓰기 전에 확인할 항목 목록으로 쓸 만합니다.
- 생년월일 입력만이 아니라 실질적인 연령 확인 절차가 있는가
- 긴 대화 중에도 캐릭터가 사람이 아니라 AI라는 사실을 다시 알려주는가
- 자해를 언급하면 대화가 멈추고 도움받을 곳을 안내하는가
- 보호자가 미성년자의 이용을 확인하거나 제한할 수 있는가
- 대화 데이터, 특히 어린 이용자의 데이터를 어떻게 처리하는지 설명하는가. 확인할 질문은 개인정보 체크리스트에 정리해 두었습니다.
법원이 이 소송의 신청에 대해 판단을 내리면 이 페이지를 업데이트하겠습니다.
CompanionRank 관련 글
플로리다주 OpenAI 가처분 신청: '사람처럼 굴기' 금지 요구 미국 코네티컷 AI 컴패니언법(SB 5): 무엇이 언제 바뀌나 애덤법(SB 1119) — 캘리포니아의 컴패니언 챗봇 법안 AI 컴패니언 앱 프라이버시 설정과 안전 체크리스트자주 묻는 질문
Character.AI가 켄터키주에서 책임을 인정받았나요?
아닙니다. 10월 제출 문서는 주가 2026년 1월에 낸 소장을 가림 처리 없이 다시 낸 것입니다. 주장은 아직 법정에서 다뤄지지 않았고, 책임에 대한 판단도 보도된 바 없습니다.
10월 제출로 무엇이 달라졌나요?
법적 청구 내용은 그대로입니다. 1월에 가려져 있던 대화 발췌와 내부 수치가 공개됐다는 점이 다릅니다. 피고 측이 비공개를 유지하기 위한 보호명령을 신청하지 않았기 때문입니다.
켄터키주는 어떤 법을 위반했다고 주장하나요?
켄터키주 소비자보호법과 켄터키주 소비자데이터보호법 등입니다. 운영 방식 변경, 원상회복, 그리고 건당 최대 2,000달러의 민사 벌금을 요구하고 있습니다.
이 소송이 다른 컴패니언·롤플레이 앱에도 영향을 주나요?
직접적인 영향은 없습니다. 피고는 Character.AI 운영사와 창업자뿐입니다. 더 넓은 의미를 갖는 건 법적 논리로, 허구와 실제 사람의 경계를 흐리는 캐릭터 플랫폼은 기만적일 수 있다는 주장입니다.