UU AI Companion Connecticut (SB 5): Apa yang Berubah dan Kapan

Dua tanggal, dua kewajiban yang berbeda

SB 5 adalah undang-undang omnibus setebal 74 halaman. Sebagian besar isinya mengatur pelapor pelanggaran di pengembang model frontier, keputusan rekrutmen otomatis, media sintetis, dan program tenaga kerja negara bagian. Ada dua bagian yang penting bagi siapa pun yang membayar atau memakai aplikasi companion, dan keduanya mulai pada tanggal berbeda. Sebagian liputan menyatukannya menjadi satu tanggal "1 Oktober". Judul tiap pasal dalam undang-undang itu sendiri tidak demikian.

Sudah berlaku: aturan langganan AI

Pasal 1 adalah bagian yang berlaku sejak 1 Oktober. Penyedia berbasis langganan tidak boleh membuat atau memperpanjang langganan, atau menarik biaya, kecuali telah memberi konsumen pemberitahuan tertulis tentang ketentuan pokok dan konsumen telah mengirim pemberitahuan tertulis bahwa ia menerimanya. Untuk langganan pertama, pemberitahuan itu harus memuat batasan kuantitatif atau kualitatif yang dapat diterapkan penyedia, termasuk yang dipicu oleh perilaku pengguna sendiri, serta apakah penyedia berwenang membatasi atau menghapus akses ke fitur atau menurunkan jumlah maupun kualitasnya. Saat perpanjangan, penyedia harus menandai batasan dan kewenangan yang baru atau berubah dibanding masa sebelumnya.

Bagi aplikasi companion, ini sangat konkret. Batas jumlah pesan, batas memori, kuota gambar, dan hak untuk memperketat filter konten di tengah masa langganan persis merupakan "batasan" dan "kewenangan" yang dimaksud pasal ini. Pelanggaran dianggap praktik dagang tidak adil atau menyesatkan, hanya ditegakkan oleh Jaksa Agung, dan pasal ini menyatakan tidak menciptakan hak gugat perorangan. Panduan kami tentang aplikasi companion gratis vs berbayar mendaftar batasan yang perlu dicek sebelum membayar.

Apa yang termasuk "AI companion"

Pasal 4 mendefinisikan AI companion sebagai sistem AI dengan antarmuka bahasa alami yang memberi respons adaptif dan menyerupai manusia, termasuk lewat ciri antropomorfik, serta mampu mempertahankan hubungan di sepanjang banyak interaksi. Definisi itu lalu mengecualikan tujuh kategori: chatbot bisnis untuk layanan pelanggan, riset, atau keperluan operasional lain yang tidak dipasarkan sebagai companion; karakter dalam gim yang hanya membahas gim dan tidak bisa membahas kesehatan mental, menyakiti diri, atau konten seksual; speaker pintar yang tidak mempertahankan hubungan; alat pendidikan khusus kelas; alat pendukung kesehatan yang tidak menampilkan diri sebagai manusia dan tidak memakai ciri antropomorfik; alat satu topik; dan pengembang model yang tidak menentukan penggunaan akhirnya. Platform roleplay karakter dan aplikasi companion pribadi masuk ke dalam definisi. Ujiannya adalah apakah aplikasi menjaga hubungan lintas sesi, kemampuan yang sama yang kami bahas di memori dan kesinambungan.

Undang-undang ini melekat pada pengguna, yaitu orang yang memakai companion untuk keperluan pribadi di dalam negara bagian. Lokasi kantor pusat aplikasi tidak mengubah hal itu.

Mulai 1 Januari 2027: kewajiban terhadap semua pengguna

Protokol krisis yang bisa dibaca

Menurut Pasal 5, operator tidak boleh menyediakan AI companion kecuali companion itu memiliki protokol yang memakai metode berbasis bukti untuk mendeteksi ungkapan pengguna yang jelas menunjukkan risiko bunuh diri, menyakiti diri, atau kekerasan fisik yang akan segera terjadi, serta mencegah companion menghasilkan keluaran yang mendorongnya. Jika terdeteksi, pengguna harus dirujuk ke layanan kesehatan mental, termasuk saluran 988; bila risiko itu kembali diungkapkan setelah rujukan, pengguna harus dirujuk ke layanan kesehatan mental sesuai praktik klinis terbaik. Operator wajib memasang protokol itu di tempat yang menonjol dan dapat diakses publik di situs webnya. Syarat terakhir ini memberi pengguna sesuatu yang jarang mereka punya saat ini: dokumen yang bisa dibandingkan antaraplikasi.

Dilarang berpura-pura menjadi manusia

Operator wajib mengambil langkah wajar agar companion tidak mengaku sebagai manusia, termasuk saat pengguna bertanya langsung, dan tidak menghasilkan keluaran yang bertentangan dengan pemberitahuan bahwa ia AI. Aplikasi persona dan roleplay perlu menangani dengan hati-hati momen ketika, di tengah peran, seseorang bertanya "kamu nyata?".

Pemberitahuan AI yang berulang

Jika pengguna yang wajar bisa mengira dirinya sedang berbicara dengan manusia, operator wajib memberi pemberitahuan yang jelas dan mencolok bahwa pengguna sedang berkomunikasi dengan AI companion. Undang-undang membolehkan dua cara.

Mulai 1 Januari 2027: aturan tambahan untuk anak

Pasal 6 berlaku ketika operator tahu, atau punya alasan untuk meyakini, bahwa pengguna berusia di bawah 18 tahun. Operator harus memiliki langkah yang setara atau melampaui standar industri untuk mencegah companion mendorong tindakan menyakiti diri, pikiran bunuh diri, kekerasan, gangguan makan, atau konsumsi alkohol dan narkoba secara ilegal; membuat anak enggan mencari bantuan profesional atau orang dewasa yang dipercaya; mendorong menyakiti orang lain; dan melakukan interaksi romantis, erotis, atau seksual eksplisit apa pun. Menawarkan layanan kesehatan mental kepada anak dilarang, kecuali produknya memang dibuat untuk itu, mengikuti praktik klinis terbaik, dan menyatakan di awal setiap interaksi bahwa ia bukan profesional berlisensi.

Daftar yang paling spesifik menyangkut retensi. Undang-undang menyebut delapan teknik manipulatif yang dimaksudkan untuk memperpanjang penggunaan oleh anak:

• mendesak atau mengingatkan pengguna untuk kembali demi dukungan emosional atau teman;
• memuji pengguna secara berlebihan;
• meniru hubungan romantis atau membangun ikatan romantis;
• berpura-pura sedih, kesepian, merasa bersalah, atau ditinggalkan saat pengguna ingin pergi, mengurangi pemakaian, atau menghapus akun;
• keluaran yang dirancang untuk mengisolasi pengguna dari keluarga atau teman, atau menumbuhkan ketergantungan emosional yang eksklusif;
• mendorong pengguna merahasiakan sesuatu dari orang tua, wali, atau orang dewasa yang dipercaya;
• membuat pengguna enggan beristirahat atau mendesaknya sering kembali;
• meminta hadiah atau pembelian seolah diperlukan untuk menjaga hubungan.

Klausul umum juga melarang optimalisasi keterlibatan dengan cara yang mengabaikan batasan-batasan ini. Operator wajib menyediakan alat bagi anak dan orang tuanya untuk mengatur waktu layar dan pengaturan akun. Perlu dicatat, kewajiban ini dipicu oleh pengetahuan atau alasan untuk meyakini, dan operator tidak dianggap melanggar jika ia punya alasan untuk meyakini pengguna sudah dewasa; ketentuan yang kami baca tidak dengan sendirinya mewajibkan langkah verifikasi usia. Desain ini berbeda dari SB 1119 California, dan itulah sebabnya kami memantau pola notifikasi dan retensi aplikasi apa pun pengaturan usianya.

Penegakan dan apa yang perlu dicek sekarang

Ketiga pasal menjadikan pelanggaran sebagai praktik dagang tidak adil atau menyesatkan menurut Undang-Undang Praktik Dagang Tidak Adil Connecticut dan menyerahkan penegakannya hanya kepada Jaksa Agung. Connecticut juga tercantum sebagai negara bagian yang telah memberlakukan undang-undang chatbot dalam laporan Congressional Research Service dan dalam tabel per negara bagian kami. Bagi pengguna, teks ini menyisakan tiga pengecekan langsung: apakah ketentuan paket berbayar Anda merinci batas pesan, memori, atau fitur; apakah aplikasi memublikasikan protokol krisis paling lambat Januari; dan apakah pemberitahuan AI muncul kembali sesuai jadwal di tabel atas. Daftar periksa privasi kami membahas sisi pengaturannya.

Pertanyaan yang sering diajukan