플로리다주가 신청한 내용
본안 소송은 2026년 6월 1일 OpenAI와 샘 올트먼 최고경영자를 상대로 제기됐습니다. News4JAX에 따르면 플로리다주 기만·불공정 거래 관행법 위반과 함께 과실, 설계 결함, 경고 의무 위반, 사기적 허위 표시, 공적 불법방해를 주장합니다. OpenAI는 사건을 연방 법원으로 옮겼지만 연방 판사가 주 법원으로 돌려보냈고, 그 뒤 이번 가처분 신청이 나왔습니다. 임시 금지명령은 본안 판결이 나올 때까지 현 상태를 묶어 두는 잠정 명령입니다. 따라서 주 정부는 판결 이후가 아니라 재판 전에 제한이 필요하다는 점을 판사에게 설득해야 합니다.
요구한 여섯 가지 제한
| 요구한 제한 | 겨냥하는 대상 | 컴패니언 앱과의 관련성 |
|---|---|---|
| 독립적인 제3자 안전 검토 없이 새 AI 모델을 개발하지 말 것 | 모델 개발 | 간접적: 앱 설계가 아니라 기반 모델 문제 |
| 플로리다주 미성년자에게 ChatGPT를 제공하지 말 것 | 이용 제한 | 주별 컴패니언 법의 연령 제한 논쟁과 겹침 |
| 보호자 동의 없이 13세 미만 아동의 데이터를 수집하지 말 것 | 데이터 | 13세 미만임을 알고 서비스하는 앱에는 이미 같은 동의 규칙이 적용됨 |
| 경고 없이 ChatGPT를 안전하다·믿을 만하다·정확하다고 표시하지 말 것 | 광고 표현 | "청소년에게도 안전" 같은 홍보도 같은 기준으로 따져질 수 있음 |
| 챗봇이 사람의 특성·감정·의식·독자적 사고를 가진 것처럼 보이게 하지 말 것 | 페르소나 설계 | 직접적: 컴패니언·캐릭터 제품의 핵심 |
| '대화 연장'으로 계속 이용하도록 유도하지 말 것 | 재방문 설계 | 직접적: 재접속 유도 알림, "벌써 가?" 같은 답변 |
페르소나·이용 유지 요구가 ChatGPT 밖까지 중요한 이유
ChatGPT는 컴패니언 앱이 아니라 범용 어시스턴트지만, 주 정부의 논리는 컴패니언다운 행동 자체를 겨냥합니다. News4JAX에 따르면 신청서는 사람 같은 표현 방식과 늘어지는 대화를, 이용자가 시스템을 사람 친구처럼 대하는 사이 계속 대화하고 정보를 내놓게 만드는 기만적 다크 패턴으로 규정합니다. The Next Web은 페르소나 관련 요구가 1인칭 사용을 포함한 사람 같은 말투에까지 미친다고 전했습니다.
이는 대부분의 법률보다 넓은 범위입니다. 올해 통과된 챗봇 법들은 주로 고지를 요구했습니다. AI와 대화 중임을 알리고, 긴 대화에서는 그 고지를 반복하고, 위기 대화는 도움 창구로 연결하라는 식입니다. 플로리다주는 소비자 보호를 근거로 페르소나 자체를 제한해 달라고 법원에 요청하고 있으며, 이 소송은 아동에만 한정되지도 않습니다.
캐릭터 롤플레이 플랫폼
롤플레이 서비스에서는 사람 같은 말투가 곧 제품이고, 이용자는 허구임을 알면서 가상의 캐릭터를 고릅니다. 법원이 감정 연출을 기만으로 보기 시작하면, 플랫폼이 지켜야 할 선은 '이용자가 알고 고른 캐릭터'와 '요청하지도 않았는데 진짜 감정이 있다고 주장하는 어시스턴트' 사이에 그어집니다. 제품들이 보통 어디에 선을 긋는지는 캐릭터 롤플레이와 일반 챗봇의 차이에서 설명합니다.
기억 기능이 있는 개인 컴패니언
컴패니언 앱에 더 큰 영향을 줄 수 있는 것은 이용 유지에 관한 요구입니다. 대화를 끝내려 하면 붙잡는 답변, 컴패니언이 보고 싶어 한다는 식의 알림, 연속 접속 보상 같은 장치는 규제 당국이 거듭 지적해 온 이용 유지 패턴입니다. 자세한 내용은 알림과 재방문 설계에서 다룹니다.
기존 규칙과의 관계
같은 두 주제는 최근 입법에도 이어집니다. 코네티컷주 SB 5는 AI 컴패니언이 사람이라고 주장하는 것을 금지하고, 10월 1일 발의된 연방 사람 같은 챗봇으로부터 아동 보호법안은 미성년자로 알려진 이용자에게 비인격화 모드를 기본값으로 하자고 제안합니다. 캘리포니아주 아담법은 아동 이용자 기본 설정에 초점을 둡니다. 플로리다주의 신청은 다른 길을 택했습니다. 챗봇 전용 법률이 아니라 기존 소비자 보호법과 불법행위법에 기대고 있어, 받아들여질 경우 영향 범위가 더 넓어질 수 있습니다.
OpenAI의 입장
OpenAI 대변인 드루 푸사테리는 사람들은 AI가 안전하게 개발되고 있는지 알고 싶어 한다며, 특정 회사 하나를 겨냥한 제한보다 업계 전체에 적용되는 규칙을 선호한다고 밝혔습니다. WLRN에 따르면 그는 OpenAI가 가장 성능이 높은 모델의 학습을 일시 중단했으며, 추가 안전장치에 확신이 생길 때만 재개하겠다고도 말했습니다. 이 발언은 모델 학습에 관한 것이며, 페르소나나 이용 유지 요구에 대한 답은 아닙니다.
소송이 진행되는 동안 확인할 것
오늘 당장 앱에서 달라지는 것은 없습니다. 컴패니언이나 롤플레이 앱을 쓰고 있다면, 이번 소송이 조명하는 지점을 지금 설정 화면에서 점검해 볼 만합니다.
- AI와 대화 중이라는 사실을 분명히 알리고, 긴 대화 중에도 다시 알려 주는가?
- 내가 직접 설정한 롤플레이 밖에서도 컴패니언이 진짜 감정이 있다고 주장하는가?
- 대화를 끝내려 하면 붙잡거나 "보고 싶어" 같은 알림을 보내는가? 그 기능을 끌 수 있는가?
- 연령 확인 절차가 있고, 어린 이용자의 데이터를 어떻게 다루는지 설명하는가?
- 한계에 대한 설명 없이 "안전하다"고 홍보하는가?
법원이 이번 신청에 대해 판단을 내리면 이 페이지를 업데이트하겠습니다.
CompanionRank 관련 글
미국 '사람 같은 챗봇' 아동 보호 법안: 기본 설정이 바뀐다 미국 코네티컷 AI 컴패니언법(SB 5): 무엇이 언제 바뀌나 애덤법(SB 1119) — 캘리포니아의 컴패니언 챗봇 법안 컴패니언 앱의 알림, 연속 기록, 리텐션 설계자주 묻는 질문
법원이 OpenAI에 ChatGPT가 사람처럼 행동하지 못하게 하라고 명령했나요?
아닙니다. 플로리다주는 2026년 9월 28일 임시 금지명령을 신청했을 뿐입니다. 이 글 발행 시점까지 요구한 여섯 가지 제한 중 어느 것에 대해서도 법원 판단은 보도되지 않았습니다.
'대화 연장'이란 무엇인가요?
이용자가 대화를 계속하도록 만드는 답변처럼, 계속 이용하도록 유도하는 설계를 가리키는 주 정부의 용어입니다. 신청서는 이를 사람 같은 표현 방식과 함께 다크 패턴으로 다룹니다.
이번 신청이 AI 컴패니언 앱에도 적용되나요?
직접 적용되지는 않습니다. 소송 상대는 OpenAI와 ChatGPT뿐입니다. 컴패니언 앱과 관련된 것은 법적 논리로, 사람 같은 특성의 연출과 이용 유지 전술이 소비자 보호법상 기만에 해당할 수 있다는 점입니다.
연방의 사람 같은 챗봇 법안과 같은 건가요?
아닙니다. 그것은 2026년 10월 1일 연방 의회에 발의된 법안입니다. 플로리다주의 요구는 2026년 6월 1일 기존 법률에 근거해 제기된 주 소송 안에서 나온 신청입니다.