Apa yang diusulkan Komisi pada 17 September
Siaran pers dari Strasbourg menggambarkan empat pilar: penundaan media sosial (tidak ada akun mandiri sebelum 15 tahun, akun mini yang dikelola wali mulai 13 tahun, tanpa media sosial di bawah 13 tahun), kewajiban desain aman untuk layanan yang dipakai anak di bawah 18 tahun, verifikasi usia yang menjaga privasi, dan model penegakan yang, menurut Presiden Komisi, "membalik beban pembuktian". Siaran pers yang sama memuat satu kalimat yang paling akan diperhatikan pengguna aplikasi companion: AI companion dan chatbot harus dimatikan secara default dan tidak boleh meniru hubungan antarpribadi dengan cara yang menciptakan ketergantungan emosional.
Bentuk hukumnya penting. Ini adalah usulan Regulasi, sehingga begitu diadopsi langsung berlaku di 27 Negara Anggota tanpa perlu transposisi nasional. Dewan mengedarkan teks lengkapnya sebagai dokumen ST 13321/26 pada 18 September, dengan nomor berkas antarlembaga 2026/0286 (COD). Komisi menyatakan usulan ini dibangun di atas laporan Juli 2026 dari Panel Khusus Keselamatan Anak Daring, kelompok lebih dari 60 pakar, dan mengutip survei Eurobarometer yang menunjukkan 92% warga Eropa menginginkan perlindungan anak daring diperkuat.
Siapa yang tercakup: dua definisi baru
Pasal 2 mendaftar layanan dan sistem yang tercakup. Di samping jejaring sosial, platform berbagi video, toko aplikasi, gim daring, dan sistem operasi, pasal ini menyebut dua kategori sistem AI. Pasal 3 mendefinisikannya.
| Istilah | Definisi dalam usulan | Pembacaan kami |
|---|---|---|
| AI companion | Sistem AI, termasuk sistem AI serbaguna, yang menyediakan interaksi atau pertemanan yang berkelanjutan dan dipersonalisasi, yang meniru atau memfasilitasi hubungan sosial, emosional, atau antarpribadi dengan pengguna. | Aplikasi companion, platform karakter dan role-play, serta asisten apa pun yang dipasarkan sebagai teman atau pasangan jelas masuk dalam rumusan ini. |
| Chatbot percakapan umum | Sistem AI serbaguna dengan fungsi percakapan umum untuk interaksi langsung dengan pengguna, yang mampu memberi bantuan di berbagai bidang dan tugas. Sistem yang terbatas pada layanan khusus, seperti dukungan pelanggan, dukungan teknis, atau pendidikan, dikecualikan. | Asisten umum masuk; bot layanan pelanggan bank tidak. |
Dua aturan cakupan patut dicermati. Pertama, berdasarkan Pasal 2(3) Regulasi ini berlaku bagi penyedia yang memasarkan atau mengoperasikan sistem AI tersebut di Uni Eropa, terlepas dari tempat penyedia itu berkedudukan. Aplikasi companion yang dijalankan dari California atau Singapura tercakup begitu pengguna UE bisa memasangnya. Kedua, Pasal 2(4) mengecualikan layanan yang dirancang terutama untuk tujuan pendidikan dan dioperasikan lembaga pendidikan, sistem yang dibangun semata-mata untuk riset ilmiah, dan sistem untuk otoritas publik.
Pasal 14: enam kewajiban penyedia companion
Bagian III Bab II memang pendek, tetapi setiap barisnya menyentuh keputusan desain yang dibuat aplikasi companion hari ini. Pasal 14(1) mewajibkan penyedia AI companion dan chatbot percakapan umum mengambil setidaknya langkah-langkah berikut bagi anak di bawah umur yang mungkin mengakses sistem.
| Butir | Kewajiban penyedia | Yang terdampak di aplikasi companion |
|---|---|---|
| (a) Tanpa desain adiktif | Menghindari fitur desain dan perilaku sistem yang meniru hubungan antarpribadi yang berpotensi menciptakan ketergantungan emosional, dan menerapkan aturan batas waktu serta jeda dari Pasal 9(1) dan 9(3). | Perpisahan yang membuat merasa bersalah, ajakan kembali "aku kangen kamu", streak, dan sesi tanpa titik henti. |
| (b) Pengaturan aman | Menerapkan default Pasal 11 dan, secara default, tidak menggunakan informasi atau analisis dari interaksi sebelumnya milik anak dalam interaksi berikutnya, kecuali bila diperlukan untuk melindungi keselamatan anak atau menjalankan pengaturan. | Memori persisten, profil pengguna jangka panjang, dan personalisasi yang dibangun dari riwayat obrolan. |
| (c) Transaksi transparan | Menerapkan aturan Pasal 13 tentang transaksi ekonomi. | Pembelian dalam obrolan, hadiah, gem, dan tawaran langganan di dalam percakapan. |
| (d) Akses di bawah 13 tahun | Mengaktifkan dan mengendalikan akses anak di bawah 13 tahun hanya lewat perangkat wali dari Pasal 20. | Tidak ada akun anak mandiri; wali yang harus mengaktifkan sistem. |
| (e) Pengujian pra-pasar | Menjalankan evaluasi dan pengujian mutakhir atas risiko terhadap kesehatan, keselamatan, hak dasar, dan kesejahteraan anak, lalu menambahkan pengaman, sebelum memasarkan sistem. | Red-teaming untuk menyakiti diri, konten seksual, dan manipulasi harus mendahului peluncuran, bukan menyusul skandal. |
| (f) Pemantauan pasca-pasar | Mengidentifikasi, menilai, dan memitigasi bahaya serta risiko baru setelah peluncuran, termasuk mendeteksi dan merespons insiden serius yang melibatkan anak. Usaha mikro dan kecil dikecualikan dari butir ini saja. | Pencatatan insiden dan proses respons sebagai kewajiban hukum, bukan sekadar halaman kebijakan. |
Pasal 14(3) menawarkan satu jalur untuk menunjukkan kepatuhan: mengikuti kode etik yang telah dinilai memadai oleh Komisi berdasarkan Pasal 23. Resital 40 menambahkan batasnya: kode etik bisa menjadi indikasi kepatuhan terhadap kewajiban berbasis tindakan, tetapi tidak bisa mengesampingkan larangan.
"Memori mati secara default": apa yang sebenarnya dikatakan teks
Judul-judul berita meringkas butir (b) menjadi "chatbot harus melupakan anak-anak". Teks operatifnya lebih sempit dan, dalam satu hal, lebih luas. Lebih sempit karena ini default, bukan larangan: sistem tidak boleh, secara default, memakai informasi dari interaksi sebelumnya milik anak dalam interaksi berikutnya, dengan pengecualian untuk keselamatan anak dan untuk menjalankan pengaturan. Resital 32 menjelaskan alasannya: memori percakapan persisten dari interaksi dengan anak harus dinonaktifkan secara default agar sistem tidak menumpuk data sensitif tentang anak atau memperkuat pola interaksi berbahaya dari waktu ke waktu.
Lebih luas karena resital yang sama melampaui memori dan menyentuh perilaku: anak tidak boleh terpapar fitur yang menampilkan perilaku atau meniru emosi maupun hubungan antarpribadi yang berpotensi menciptakan ketergantungan emosional dan ketergantungan lain, termasuk bila ketergantungan itu merusak hubungan anak dengan manusia lain. Itu adalah gambaran loop produk inti banyak aplikasi companion. Jika kamu ingin latar teknis tentang arti "memori" di sistem semacam ini, penjelasan kami tentang memori persona dan memori dan kontinuitas membahas perbedaan antara jendela konteks dan profil tersimpan, tepat pada garis yang ditarik Pasal 14(1)(b).
UE tidak sendirian. SB 1119 California, yang ditandatangani 10 September 2026, juga menonaktifkan memori persisten untuk pengguna anak secara default. Kedua teks berbeda dalam hampir semua hal lainnya.
| Tuas desain | EU KIDS Act (usulan, Psl. 14) | SB 1119 California (ditandatangani 10 Sep 2026) |
|---|---|---|
| Memori untuk anak | Mati secara default; pengecualian keselamatan | Memori persisten dinonaktifkan untuk pengguna anak |
| Batas sesi | Akses berbatas waktu dan jeda lewat Psl. 9(3), melindungi jam tidur dan jam sekolah | Satu jam per sesi, dua jam per hari |
| Pengguna termuda | Akses di bawah 13 tahun hanya lewat perangkat wali | Perlindungan anak berlaku untuk semua pengguna kecuali usia diverifikasi |
| Pengujian | Evaluasi pra-pasar dan pemantauan pasca-pasar | Penilaian risiko terdokumentasi sebelum rilis |
| Plafon sanksi | Hingga 6% dari omzet tahunan global | US$5.000 per anak terdampak (kelalaian), US$15.000 (kesengajaan), hak gugat perorangan |
| Status | Usulan; berlaku enam bulan setelah mulai berlaku | Sudah jadi undang-undang; kewajiban operator paling lambat 1 Juli 2027 |
Sisi California kami bahas di artikel tentang Adam's Law. Dibaca bersama, kedua teks menunjukkan ke mana default aplikasi companion untuk anak sedang bergerak: memori mati, waktu dibatasi, diuji sebelum diluncurkan.
Saat companion hidup di dalam jejaring sosial atau gim
Pasal 14(2) mengatur kasus yang makin lazim: companion bukan aplikasi, melainkan fitur. Bila AI companion atau chatbot percakapan umum dipasang di dalam layanan jejaring sosial, platform berbagi video, atau gim daring, platform harus memastikan sistem itu tidak aktif otomatis dan tidak ditampilkan secara mencolok, anak tidak didorong untuk memakainya, dan anak bisa berhenti memakainya dengan mudah kapan saja. Pasal 8(3) menegaskan bahwa untuk sistem tertanam semacam itu hanya bagian khusus companion serta bab umum tentang verifikasi usia dan perangkat wali yang berlaku, bukan seluruh buku aturan platform dua kali.
Bagian yang harus dibaca pengguna dewasa: Pasal 8
Kewajiban yang akan mengubah pengalaman orang dewasa justru tidak ada di Pasal 14. Pasal 8(1) menetapkan kewajiban umum desain aman lalu menambahkan mekanismenya: penyedia harus merancang layanan dan sistemnya sesuai persyaratan aman untuk anak secara default, dan hanya boleh menyimpang dari persyaratan itu setelah memastikan pengguna adalah orang dewasa melalui verifikasi usia sesuai Bab V.
Bagi aplikasi companion yang tersedia di UE, tersisa dua pilihan. Entah semua pengguna mendapat produk versi anak, dengan memori mati dan perilaku pemicu ketergantungan dihapus, atau aplikasi memverifikasi usia dan membuka pengalaman dewasa di baliknya. Q&A Komisi menyebut usia diverifikasi lewat solusi tersertifikasi yang independen dari platform, termasuk aplikasi verifikasi usia UE gratis dan, pada waktunya, Dompet Identitas Digital Eropa. Bersiaplah melihat permintaan verifikasi usia menjadi hal biasa bagi pengguna UE aplikasi companion dan karakter, seperti yang sudah terjadi di toko aplikasi Australia dan berdasarkan Online Safety Act Inggris. Panduan kami tentang privasi dan verifikasi usia menjelaskan metode mana yang menyimpan data paling sedikit.
Penegakan: jalur AI Act dan plafon 6%
Pasal 34 membagi pengawasan menurut jenis layanan. Untuk jejaring sosial, platform video, platform gim, dan toko aplikasi, mekanisme Digital Services Act yang berlaku. Untuk AI companion dan chatbot percakapan umum, Pasal 34(2) mengarahkan pengawasan lewat Bab IX AI Act (Regulasi (UE) 2024/1689), dan pelanggaran dikenai denda administratif berdasarkan Pasal 99 AI Act, maksimal 6% dari total omzet tahunan global pada tahun buku sebelumnya, bila penyedia bertindak sengaja atau lalai. Negara Anggota harus memberi kewenangan penegakan Regulasi baru ini kepada otoritas yang mereka tunjuk berdasarkan DSA dan AI Act, dan Komisi tetap memegang kewenangan yang sudah dimilikinya atas platform sangat besar. Siaran pers menambahkan prosedur dipercepat, dengan Komisi diharapkan menyelesaikan investigasi dalam 90 hari.
Ini badan penegak yang berbeda dari kewajiban transparansi dalam Pasal 50 AI Act, yang berlaku sejak 2 Agustus 2026 dan mewajibkan chatbot mengungkapkan bahwa pengguna sedang berbicara dengan mesin. KIDS Act akan berdiri di atas kewajiban itu, bukan menggantikannya.
Linimasa: apa yang sudah dan belum diputuskan
- Belum ada yang berlaku. Komisi telah menyerahkan teks ke Parlemen Eropa dan Dewan melalui prosedur legislatif biasa. Keduanya harus menyepakati versi final. Analisis Freshfields memperkirakan negosiasi sekitar dua tahun; Komisi meminta adopsi cepat.
- Enam bulan setelah mulai berlaku. Pasal terakhir menetapkan penerapan enam bulan setelah mulai berlaku, dengan kewajiban rencana kepatuhan untuk platform sangat besar (Pasal 5) berlaku segera dan dua pasal pendukung pada dua belas bulan.
- Definisi adalah medan pertempuran. Garis antara "AI companion" dan "chatbot percakapan umum", serta pengecualian untuk sistem pendidikan, akan diperdebatkan klausul demi klausul. CMS menyarankan perusahaan memantau bagaimana negosiasi menyempurnakan definisi, ambang batas, dan kewajiban.
- Masyarakat sipil ingin lebih ketat, bukan lebih longgar. Euronews melaporkan Eurochild menyebut aturan ini "belum cukup ketat" dan meminta pembatasan desain antropomorfik dan yang suka menjilat, sementara Euroconsumers mencatat sekitar 30% pengguna sudah melaporkan usia palsu, yang justru menjadi argumen untuk verifikasi usia independen, bukan menentangnya.
Bagi siapa pun yang memilih aplikasi companion atau karakter di Eropa hari ini, kesimpulan praktisnya sederhana. Fitur desain yang dibidik usulan ini, yaitu memori yang dibangun dari riwayatmu, ajakan kembali yang lengket secara emosional, dan pembelian di dalam obrolan, adalah hal yang sama yang layak diperiksa sebelum berlangganan. Daftar periksa privasi kami memandu cara menemukannya di pengaturan aplikasi.
Terkait di CompanionRank
Pasal 50 AI Act UE: Apa yang Wajib Diungkap Aplikasi Companion Adam's Law (SB 1119): RUU Chatbot Companion California Verifikasi Usia Toko Aplikasi Australia Kini Menjangkau AI Companion Privasi AI Companion dan Verifikasi UsiaPertanyaan yang sering diajukan
Apa itu EU KIDS Act?
EU KIDS Act adalah usulan Regulasi yang diadopsi Komisi Eropa pada 17 September 2026 (COM(2026) 681). Usulan ini menetapkan usia minimum terharmonisasi 15 tahun untuk akun media sosial mandiri, mewajibkan desain aman bagi jejaring sosial, platform video, gim daring, toko aplikasi, AI companion, dan chatbot percakapan umum yang dipakai anak di bawah 18 tahun, serta membuat aturan verifikasi usia se-UE. Usulan ini masih harus disepakati Parlemen Eropa dan Dewan.
Apakah EU KIDS Act melarang AI companion untuk anak-anak?
Tidak. Usulan ini tidak melarang AI companion sepenuhnya. Berdasarkan Pasal 14, akses anak di bawah 13 tahun hanya boleh diaktifkan dan dikendalikan lewat perangkat wali, dan untuk semua anak di bawah umur penyedia harus menghindari desain yang meniru hubungan antarpribadi yang berpotensi menciptakan ketergantungan emosional, mematikan penggunaan interaksi sebelumnya secara default, menguji sistem sebelum diluncurkan, dan memantaunya setelahnya.
Apa arti \“memori mati secara default\” menurut Pasal 14?
Pasal 14(1)(b) mewajibkan sistem, secara default, tidak memakai informasi atau analisis dari interaksi sebelumnya milik anak dalam interaksi berikutnya, kecuali bila diperlukan untuk melindungi keselamatan anak atau menjalankan pengaturan keselamatan. Resital 32 menggambarkannya sebagai menonaktifkan memori percakapan persisten untuk anak secara default. Ini default untuk anak, bukan larangan memori bagi orang dewasa.
Apakah EU KIDS Act berlaku untuk aplikasi companion yang berbasis di luar UE?
Ya. Pasal 2(3) menyatakan bahwa untuk AI companion dan chatbot percakapan umum, Regulasi ini berlaku bagi penyedia yang memasarkan atau mengoperasikan sistem tersebut di Uni Eropa, terlepas dari tempat penyedia itu didirikan atau berada.
Apa sanksi bagi penyedia AI companion?
Pasal 34(2) mengarahkan penegakan lewat Bab IX AI Act. Pelanggaran dikenai denda administratif berdasarkan Pasal 99 AI Act, maksimal 6% dari total omzet tahunan global penyedia pada tahun buku sebelumnya, bila penyedia bertindak sengaja atau lalai.
Kapan EU KIDS Act akan berlaku?
Ini masih usulan, jadi belum ada kewajiban yang berlaku. Teksnya menetapkan bahwa Regulasi akan berlaku enam bulan setelah mulai berlaku, dengan kewajiban rencana kepatuhan bagi platform daring sangat besar berlaku segera. Parlemen Eropa dan Dewan harus lebih dulu menyepakati teks final; analisis firma hukum memperkirakan negosiasi sekitar dua tahun.