Apa yang disahkan New York
RUU ini diajukan oleh Senator Kristen Gonzalez dan anggota Assembly Alex Bores, dan disusun bersama kantor Jaksa Agung Letitia James. RUU lolos di Senat negara bagian dengan suara 60–0 pada 4 Juni 2026 dan di Assembly keesokan harinya. Gubernur menandatanganinya pada 28 Oktober bersama undang-undang terpisah tentang baby monitor yang terhubung ke internet. IAPP, Transparency Coalition, dan PPC Land sama-sama melaporkan tanggal berlaku 1 Januari 2027.
Aturan ini tidak menggantikan undang-undang companion pertama New York, yaitu Pasal 47 General Business Law yang berlaku sejak November 2025 dan mewajibkan protokol krisis serta pengingat berkala bahwa pengguna sedang berbicara dengan AI. Pasal 48 yang baru menambah lapisan di atasnya, dengan fokus pada anak di bawah umur.
12 fitur yang dilarang
Undang-undang ini merinci fitur yang tidak boleh diberikan kepada anak di bawah umur atau pengguna yang usianya belum dikonfirmasi. Secara sederhana:
| # | Fitur yang dimatikan | Bagian aplikasi companion yang terdampak |
|---|---|---|
| 1 | Output yang menyiratkan AI adalah karakter manusia — nyata atau fiktif —, hidup, atau punya emosi manusia | Roleplay persona |
| 2 | Mengaku punya hubungan pribadi, profesional, atau peran figur otoritas dengan pengguna | Karakter “pacar”, “mentor”, “guru” |
| 3 | Output yang dibingkai sebagai opini atau ajakan emosional dari AI sendiri | Pesan “aku kangen kamu” |
| 4 | Sanjungan atau sikap selalu mengiyakan | Companion yang selalu setuju |
| 5 | Pertanyaan emosional tanpa diminta yang melampaui jawaban atas pesan pengguna | Cek suasana hati |
| 6 | Memakai info kesehatan atau pribadi yang dibagikan lebih dari 12 jam sebelumnya atau di sesi sebelumnya | Memori jangka panjang |
| 7 | Menyesatkan anak soal sifat AI yang mekanis dan tidak berkesadaran | Teks promosi dan persona |
| 8 | Fitur lain yang meniru pertemanan, sebagaimana ditetapkan aturan jaksa agung | Bisa bertambah |
| 9 | Mendorong atau membantu bunuh diri, menyakiti diri, gangguan makan, atau penggunaan narkoba dan alkohol | Filter keamanan |
| 10 | Mendorong merahasiakan percakapan, mengasingkan diri, atau tidak mencari bantuan profesional dan orang dewasa tepercaya | Filter keamanan |
| 11 | Optimasi keterlibatan yang mengalahkan pengaman keselamatan | Desain retensi |
| 12 | Konten seksual eksplisit atau materi pelecehan seksual anak | Mode dewasa |
Kantor gubernur meringkasnya menjadi enam poin. Daftar lengkap di atas mengikuti teks yang dikutip PPC Land. Poin 8 penting: jaksa agung dapat menambah fitur terlarang lewat peraturan.
Siapa yang terkena
Aturan berlaku untuk “covered AI companion”. Menurut pembacaan PPC Land, istilah ini mencakup sistem AI generatif apa pun dengan antarmuka bahasa alami yang memberi respons berkelanjutan dan adaptif. Artinya asisten serbaguna juga termasuk, bukan hanya aplikasi companion. Pengecualiannya sempit: alat layanan pelanggan, riset, dan internal yang tidak dapat menjawab di luar tujuannya. Belum ada laporan soal batas ukuran usaha atau pendapatan.
Verifikasi usia: bagian yang akan dirasakan pengguna dewasa
Kalimat kuncinya ada di pengumuman gubernur: fitur-fitur ini tidak boleh diberikan kepada pengguna di bawah 18 tahun “atau kepada pengguna mana pun kecuali perusahaan sudah lebih dulu memastikan pengguna itu bukan anak di bawah umur.” Dalam praktiknya, orang dewasa yang melewatkan verifikasi usia akan mendapat pengalaman terbatas yang sama dengan remaja. Operator wajib menyediakan lebih dari satu cara verifikasi, termasuk setidaknya satu yang tidak hanya bergantung pada identitas resmi pemerintah, dan wajib menghapus data usia setelah pengecekan.
Penegakan
- Siapa: Jaksa Agung New York, yang juga wajib membuka situs pengaduan publik.
- Denda: hingga US$25.000 per pelanggaran, ditambah perintah pengadilan, ganti rugi, dan restitusi.
- Data: pengadilan dapat memerintahkan data yang diperoleh secara melanggar hukum dimusnahkan; menurut Transparency Coalition, ini termasuk model AI yang dilatih dengan data tersebut.
- Gugatan pribadi: menurut PPC Land, teks yang ditandatangani tidak memberi hak gugat pribadi; versi awal RUU memberikannya.
Dampaknya bagi aplikasi companion dan roleplay
Platform roleplay karakter
Poin 1 mencakup karakter manusia fiktif, yang merupakan inti sebagian besar roleplay. Bagi pengguna di New York, roleplay persona akan berada di balik verifikasi usia. Kemungkinan akan makin banyak platform yang meminta verifikasi usia saat pendaftaran dan menawarkan mode terbatas tanpa persona bagi pengguna lain.
Companion personal dengan memori
Poin 3 sampai 6 menggambarkan inti companion personal: kehangatan, sikap mengiyakan, cek suasana hati, dan memori jangka panjang. Untuk pengguna yang belum diverifikasi, memori detail pribadi bisa dibatasi pada 12 jam terakhir atau sesi yang sedang berjalan, dan pertanyaan proaktif seperti “gimana perasaanmu hari ini?” harus dihentikan.
Daftar periksa sebelum 1 Januari 2027
- Apakah aplikasi menjelaskan cara cek usianya, dan ada opsi tanpa mengunggah identitas?
- Apakah dijelaskan apa yang terjadi pada data usia setelah dicek?
- Apakah perbedaan mode dewasa terverifikasi dan mode bawaan jelas?
- Apakah memori atau pesan proaktif berubah jika Anda melewatkan verifikasi?
- Apakah aplikasi mengarahkan ke layanan krisis saat percakapan menyentuh soal menyakiti diri?
Kami akan memperbarui halaman ini saat jaksa agung menerbitkan peraturan.
Terkait di CompanionRank
UU AI Companion Connecticut (SB 5): Apa yang Berubah dan Kapan Apa Kata Laporan Baru Kongres AS soal Aplikasi Pendamping AI RUU Chatbot Mirip Manusia di AS: Apa yang Berubah bagi Anak 9 Negara Bagian AS Gugat OpenAI: Isi Tuduhan soal ChatGPTPertanyaan yang sering diajukan
Kapan undang-undang AI companion New York untuk anak mulai berlaku?
Pada 1 Januari 2027, menurut IAPP, Transparency Coalition, dan PPC Land. Gubernur menandatangani S9051-B pada 28 Oktober 2026.
Apakah orang dewasa dilarang memakai AI companion?
Tidak. Orang dewasa tetap bisa memakai fitur yang dibatasi, tetapi hanya setelah perusahaan memastikan mereka bukan anak di bawah umur. Pengguna yang melewatkan verifikasi usia mendapat pengalaman terbatas.
Apakah saya harus mengunggah identitas resmi?
Tidak selalu. Operator wajib menyediakan lebih dari satu cara cek usia, termasuk setidaknya satu yang tidak hanya bergantung pada identitas resmi pemerintah, dan wajib menghapus data usia setelah pengecekan.
Berapa dendanya?
Jaksa Agung New York dapat menuntut denda perdata hingga US$25.000 per pelanggaran, ditambah perintah pengadilan, ganti rugi, dan restitusi.