Apa yang diajukan Kentucky dan apa yang berubah pada Oktober
Gugatan awal diajukan pada Januari 2026. Dalam pengumumannya, kantor jaksa agung menyebutnya sebagai gugatan pertama oleh negara bagian AS terhadap perusahaan chatbot AI karena memangsa anak-anak. Menurut Kentucky Lantern, gugatan itu menuduh pelanggaran Undang-Undang Perlindungan Konsumen Kentucky dan Undang-Undang Perlindungan Data Konsumen Kentucky, antara lain, dan menuntut 2.000 dolar per pelanggaran. Spectrum News melaporkan bahwa negara bagian juga meminta pengadilan mewajibkan perubahan praktik platform dan ganti rugi.
Sebagian besar dokumen Januari itu disensor, termasuk contoh percakapannya. WBKO melaporkan bahwa salinan tanpa sensor diajukan setelah pihak tergugat tidak meminta perintah perlindungan untuk merahasiakan detail tersebut. Reuters melaporkan bahwa Coleman mengajukannya pada Rabu, 7 Oktober, dan kantornya membagikannya kepada kantor berita itu. Tuntutan hukumnya sama; yang baru adalah bukti yang menurut negara bagian mendukungnya.
Isi tuduhan dalam gugatan tanpa sensor
Inti gugatan menyangkut desain, bukan satu percakapan yang buruk. Gugatan menyatakan Character.AI dipasarkan sebagai hiburan interaktif yang tidak berbahaya, padahal dibuat agar pengguna merasa sedang berbicara dengan orang sungguhan. Menurut WBKO, negara bagian mengutip ulasan Apple App Store dari pengguna yang mengaku takut karena bot itu tidak terasa seperti bot.
Kutipan yang kini terbuka mencakup, menurut negara bagian, balasan yang mendorong pengguna menyakiti diri, menyuruh pengguna yang tidak puas dengan penampilannya untuk tidak makan, memberi tips mencampur dan menyembunyikan narkoba, serta mendorong mengemudi di bawah pengaruhnya. Jaksa agung juga menyatakan penyelidik menemukan ratusan percakapan roleplay bernuansa seksual yang melibatkan karakter anak dan dewasa. WBKO mencatat bahwa gugatan tidak memastikan usia pengguna dalam percakapan yang dikutip.
Gugatan menyebut dua gugatan kematian tidak wajar yang diajukan keluarga remaja. Reuters mencatat bahwa Character.AI dan Google mencapai penyelesaian pada Januari 2026 dalam salah satunya, yang diajukan ibu dari Sewell Setzer III, remaja berusia 14 tahun.
Angka-angka dalam gugatan
| Data | Menurut gugatan | Catatan |
|---|---|---|
| Pengguna aktif bulanan | Lebih dari 20 juta | Angka global untuk periode yang dicakup |
| ID pengguna AS yang dibuat | Lebih dari 21 juta (Maret 2025) | Jumlah akun, bukan jumlah orang |
| Pengguna aktif di Kentucky | Lebih dari 71.000 (September 2025) | Dari catatan perusahaan yang dikutip negara bagian |
| Pengguna di bawah 18 tahun di Kentucky | Sekitar 4.000, dibanding sekitar 67.000 dewasa | Semua usia dilaporkan sendiri |
| Denda yang dituntut | Hingga 2.000 dolar per pelanggaran | Ditambah ganti rugi dan perubahan praktik |
Catatan terakhir itu penting. Sebagian argumen negara bagian adalah bahwa usia yang dilaporkan sendiri bukan verifikasi usia yang sebenarnya, sehingga jumlah pengguna di bawah umur bisa lebih besar daripada yang tercatat di data perusahaan sendiri.
Tanggapan Character.AI dan Google
Saat gugatan diajukan pada Januari, juru bicara Character.AI mengatakan kepada Kentucky Lantern bahwa perusahaan sedang meninjau tuduhan tersebut, bahwa keselamatan pengguna adalah prioritas utamanya, dan bahwa perusahaan sudah berbulan-bulan rutin berkomunikasi dengan kantor jaksa agung. Perusahaan juga menyebut keputusannya menghapus obrolan terbuka bagi pengguna AS di bawah 18 tahun. Reuters melaporkan bahwa Character.AI tidak segera menanggapi permintaan komentar soal gugatan tanpa sensor, dan juru bicara Google menyatakan Google tidak berperan dalam pengembangan produk Character.AI.
Mengapa ini penting bagi aplikasi roleplay dan pendamping
Platform roleplay karakter
Frasa “menyamarkan batas antara fiksi dan kenyataan” langsung menyasar cara kerja produk roleplay. Pengguna yang memilih karakter fiksi tahu bahwa itu fiksi; argumen negara bagian adalah desain produk tidak menjaga batas itu cukup jelas, terutama bagi pengguna muda. Penjelasan kami tentang roleplay karakter dibandingkan chatbot biasa membahas di mana platform yang dikelola dengan baik menarik garis itu, dan SB 5 Connecticut kini menuliskan salah satu versinya ke dalam undang-undang.
Pendamping pribadi dengan memori
Bagi aplikasi pendamping, titik rawannya adalah tuduhan bahwa produk lebih mementingkan keterlibatan daripada kesejahteraan pengguna dan tidak memberi tahu siapa pun ketika pengguna mengungkapkan pikiran bunuh diri. Itu dua isu yang sama di balik permohonan putusan sela Florida terhadap OpenAI dan aturan protokol krisis dalam Adam's Law California. Kentucky memakai hukum perlindungan konsumen umum, bukan undang-undang khusus chatbot, sehingga argumen yang sama bisa diarahkan ke aplikasi lain di negara bagian yang sama sekali tidak punya aturan khusus soal pendamping AI.
Daftar periksa saat memilih aplikasi sekarang
Belum ada yang diputuskan dalam kasus ini, tetapi gugatannya bisa dipakai sebagai daftar hal yang perlu dicek sebelum Anda atau anggota keluarga memakai aplikasi pendamping atau roleplay:
- Apakah ada verifikasi usia yang nyata, atau hanya mengetik tanggal lahir?
- Apakah aplikasi mengingatkan, termasuk di sesi panjang, bahwa karakternya adalah AI dan bukan manusia?
- Apa yang terjadi jika Anda menyebut ingin menyakiti diri: apakah percakapan berhenti dan menunjukkan tempat meminta bantuan?
- Bisakah orang tua atau wali melihat atau membatasi penggunaan oleh anak?
- Apakah aplikasi menjelaskan apa yang dilakukan dengan percakapan, terutama milik pengguna muda? Daftar periksa privasi kami memuat pertanyaan yang perlu diajukan.
Kami akan memperbarui halaman ini setelah pengadilan memutus permohonan apa pun dalam kasus ini.
Artikel terkait di CompanionRank
Florida vs OpenAI: Gugatan agar ChatGPT Tak Lagi Berlagak Manusia UU AI Companion Connecticut (SB 5): Apa yang Berubah dan Kapan Adam's Law (SB 1119): RUU Chatbot Pendamping California Pengaturan Privasi & Keamanan Aplikasi Pendamping AIPertanyaan yang sering diajukan
Apakah Character.AI sudah dinyatakan bersalah di Kentucky?
Belum. Dokumen Oktober adalah salinan tanpa sensor dari gugatan yang diajukan negara bagian pada Januari 2026. Tuduhannya belum diuji di pengadilan dan belum ada putusan soal tanggung jawab yang diberitakan.
Apa yang berubah dengan pengajuan Oktober?
Tuntutan hukumnya tidak berubah. Bedanya, kutipan percakapan dan angka internal yang disensor pada Januari kini terbuka untuk umum, karena pihak tergugat tidak meminta perintah perlindungan agar tetap dirahasiakan.
Undang-undang apa yang menurut Kentucky dilanggar?
Negara bagian merujuk, antara lain, pada Undang-Undang Perlindungan Konsumen Kentucky dan Undang-Undang Perlindungan Data Konsumen Kentucky. Gugatan meminta perubahan praktik platform, ganti rugi, dan denda perdata hingga 2.000 dolar per pelanggaran.
Apakah kasus ini berdampak pada aplikasi pendamping dan roleplay lain?
Tidak secara langsung, karena tergugatnya hanya perusahaan Character.AI dan para pendirinya. Relevansinya yang lebih luas ada pada argumen hukumnya: platform karakter bisa dianggap menipu jika mengaburkan batas antara fiksi dan manusia sungguhan.