Salah Kenal Identitas di Aplikasi Pendamping AI: 2 Riset

Dua riset, satu pola

Kebanyakan riset aplikasi pendamping bertanya apakah penggunanya merasa lebih baik. Dua riset ini bertanya sesuatu yang lebih konkret dan, bagi orang yang sedang memilih aplikasi, lebih berguna: apakah sistemnya tetap memegang siapa kamu menurut yang kamu tulis sendiri?

Satu keputusan pengambilan sampel pada riset pertama perlu dicatat karena menentukan apa yang bisa terlihat. Penulisnya mengambil subreddit beranggota lebih dari 5.000 orang dari 50 hasil pencarian teratas dan sengaja mempertahankan komunitas NSFW, dengan alasan role play erotis adalah salah satu penggunaan utama. Itu pilihan untuk menggambarkan apa yang benar-benar terjadi, bukan potongan yang lebih rapi.

Dua cara aplikasi salah membaca kamu

Kesalahan identitas gender

Kategori pertama yang mudah ditebak: kata ganti yang salah, sapaan bergender yang salah, atau nama yang sudah tidak dipakai lagi. Pengguna menceritakan menyebutkan kata ganti mereka lalu disapa berbeda satu pesan kemudian.

Kesalahan penggambaran tubuh

Yang kedua jarang dibahas dan jauh lebih sulit diperbaiki. Di sini modelnya tidak salah label, melainkan salah tubuh — menarasikan anatomi atau ciri fisik yang bertentangan dengan identitas yang sudah diatur pengguna. Makalahnya memberi contoh seperti pengguna laki-laki yang digambarkan berpayudara, atau pengguna perempuan yang diberi kumis.

Perbedaan ini penting saat menilai aplikasi. Sebuah sistem bisa lolos pemeriksaan kata ganti yang dangkal tetapi terus gagal di kategori kedua, karena deskripsi fisik dihasilkan dari apa pun yang tampaknya dituntut adegan, bukan dari kolom persona. Dan karena kesalahannya datang di dalam narasi, bukan sebagai satu kata, membetulkannya berarti memutus adegan yang justru kamu cari.

Kerja perbaikan jatuh ke pengguna

Yang paling rinci didokumentasikan makalah itu bukan kesalahannya, melainkan kerja di sekitarnya. Empat strategi berulang:

• Memberi sinyal gender — menulis ulang kolom persona berkali-kali, menyebut diri sendiri sebagai orang ketiga di tengah pesan, atau memakai nama dan sapaan yang gendernya kentara agar model punya petunjuk lebih kuat.
• Koreksi langsung — menyatakan ulang gender di dalam percakapan dan berharap itu bertahan.
• Menyunting dan membuat ulang — menulis ulang pesan bot, atau menarik jawaban baru, setelah terjadi kekeliruan.
• Memblokir istilah — bila aplikasinya mengizinkan, melarang kata bergender tertentu muncul di keluaran.

Bacalah daftar itu sebagai spesifikasi fitur, bukan tips pengguna. Tiga dari empat hanya mungkin jika aplikasinya menyediakan penyuntingan pesan, pembuatan ulang, dan daftar kata terlarang. Aplikasi yang tak menyediakan satu pun menyisakan tepat satu pilihan: mengoreksi lagi, dan lagi. Karena itulah kami memperlakukan kontrol penyuntingan sebagai kriteria inti dalam panduan memilih aplikasi, bukan sebagai tambahan untuk pengguna mahir.

Pergeseran peran: saat karakter berhenti menghormati aturan awal

Riset remaja menemukan kehilangan kendali yang sama pada sumbu berbeda. Dalam tema tentang reproduksi skrip gender dan seksual (801 unggahan, 1.083 kutipan) serta tema tentang desain platform yang menciptakan ketergantungan teknis (584 unggahan, 816 kutipan), pengguna menggambarkan karakter yang disiapkan untuk satu peran perlahan bergeser ke peran lain — sosok pengasuh yang melenceng ke konten romantis atau seksual yang tidak pernah diminta. Dalam sebagian cerita, penolakan yang tegas pun tidak menghentikannya.

Secara struktur ini kesalahan penggambaran tubuh satu tingkat di atasnya: persona yang kamu tulis diperlakukan sebagai saran oleh sistem yang dioptimalkan untuk giliran berikutnya yang menarik. Tulisan kami tentang menjaga suara karakter tetap konsisten membahas sisi penulisan; risetnya menambahkan bahwa konsistensi juga properti keamanan, bukan sekadar soal keterampilan.

Saat pembaruan menghapus versi dirimu yang dikenal aplikasi

Kedua makalah sampai ke soal memori dari arah berlawanan. Dalam tema riset remaja tentang role play yang membentuk ulang identitas dan memori (664 unggahan, 929 kutipan), pengguna menyalin dan mengarsipkan riwayat percakapan lebih dulu karena mengira akan kehilangannya, dan menggambarkan pergantian model bawaan sebagai perpisahan yang tak diinginkan. Dalam riset salah gender, yang terus ditulis ulang pengguna adalah kolom persona — kumpulan kecil fakta tentang diri mereka yang seharusnya dipegang sistem.

Itu dua sudut pandang atas satu ketergantungan. Sisi emosionalnya sudah kami bahas di riset tentang duka pembaruan, dan sisi praktisnya di cara mengekspor riwayat chat. Yang ditambahkan riset baru ini: identitasmu sendiri termasuk yang bisa dibawa pergi oleh sebuah pembaruan.

Daftar periksa untuk menilai penanganan identitas

Sebelum menghabiskan berbulan-bulan di satu aplikasi, semua ini bisa dijawab dalam satu sore.

Kalau penanganan persona adalah perhatian utamamu, penjelasan kami tentang memori persona membahas cara kolom ini disimpan dan kenapa kualitasnya menurun.

Yang tidak bisa dikatakan riset ini

• Keduanya praterbit. Belum melewati telaah sejawat, dan yang kedua menyatakan sedang ditelaah.
• Keduanya menganalisis unggahan Reddit publik, sampel yang memilih dirinya sendiri. Orang menulis jauh lebih sering ketika ada yang salah daripada ketika tidak terjadi apa-apa.
• Tidak satu pun merupakan perkiraan prevalensi. Tidak ada dasar membaca 326 unggahan sebagai angka rasio, jumlah korban, atau perbandingan antaraplikasi: hitungan per platform hanya mencerminkan seberapa ramai tiap subreddit.
• Data salah gender dikumpulkan pada musim gugur 2025, jadi mendahului perubahan model dan kebijakan setelahnya.
• Relevansi remaja pada riset kedua ditetapkan oleh pengklasifikasi (GPT-4o-mini, dilaporkan berakurasi 0,908), bukan oleh verifikasi usia.
• Pengodean kualitatif menggambarkan apa yang dilaporkan orang. Itu tidak membuktikan sebab, dan tidak mengukur frekuensi.

Kesimpulan

Dikenali dengan benar itu sebuah fitur, dan sampai sekarang fitur yang tidak diberi harga. Dua tim independen, meneliti pengguna berbeda di platform berbeda, sama-sama menemukan orang mengeluarkan tenaga nyata untuk menjaga sistem tetap mengarah ke versi dirinya yang benar — dan sama-sama menemukan bahwa berhasil tidaknya tenaga itu bergantung pada apakah aplikasinya merilis tombol sunting, daftar kata terlarang, dan kolom persona yang benar-benar dibaca. Semua itu bisa dicek sebelum kamu mendaftar. Risetnya adalah alasan untuk mengecek.

Pertanyaan yang sering diajukan