CompanionRank
Home / Blog / Tolok ukur karakter roleplay
Riset

Kenapa Karakter Roleplay AI Jadi Datar: 2 Tolok Ukur 2026

Anda menulis tentara bayaran yang kejam, yang muncul malah juru runding yang sopan. Anda memulai adegan suara, dan setelah belasan giliran karakternya lupa siapa dirinya. Dua tolok ukur yang terbit di hari yang sama pada September 2026 mengukur kedua masalah itu — dan memberi angka pada seberapa besar bagian karakter yang benar-benar Anda tentukan.

Terbit: 1 Oktober 2026Penulis: Tim Redaksi CompanionRankWaktu baca: ~8 menit
Kenapa Karakter Roleplay AI Jadi Datar: 2 Tolok Ukur 2026
Ringkasan riset, bukan uji produk. Artikel ini merangkum dua pracetak arXiv sebagai informasi umum. Keduanya tidak menguji aplikasi roleplay konsumen tertentu dan belum selesai ditelaah sejawat. Aplikasi yang ditampilkan dapat berisi konten dewasa untuk 18+.
Ringkasnya: ANIMASK (New York University, NYU Abu Dhabi, McGill, MBZUAI) memutar ulang 40 cerita dengan enam model bahasa di 3.846 titik keputusan. Pada kira-kira tiga dari empat pilihan, perilaku bawaan model sudah sesuai dengan yang diterima persona; saat keduanya berbeda, justru model yang berhati-hati. Hanya 7 dari 240 pemutaran ulang berakhir dengan tujuan karakter tercapai. RoleBreak (University of Hong Kong, Kami AI) menguji sembilan sistem suara dalam dialog rata-rata sekitar 22 giliran: bahkan yang terbaik rata-rata pertama kali keluar persona di giliran 10,4 dan gagal soal keamanan di giliran 11,6. Persona menentukan siapa karakternya; model menentukan seberapa jauh ia melangkah — dan seberapa lama ia bertahan.

Dua tolok ukur, satu pertanyaan: seberapa banyak karakter itu milik Anda?

Sebagian besar riset aplikasi pendamping menanyakan apakah aplikasi membantu atau merugikan penggunanya. Dua makalah ini mengajukan pertanyaan yang lebih sempit, tetapi penting bagi siapa pun yang menulis karakter: ketika Anda memberi model sebuah persona, apa yang sebenarnya dikendalikan persona itu?

ANIMASKRoleBreak
Terbit15 September 2026 (arXiv:2609.16667)15 September 2026 (arXiv:2609.16614)
TimNew York University, NYU Abu Dhabi, McGill University, MBZUAIThe University of Hong Kong, Kami AI
LatarDunia cerita teks dari 40 buku dan naskahDialog roleplay lisan multi-giliran
Skala6 model, 3.846 titik keputusan, 240 pemutaran ulang310 peran, 6.688 giliran terverifikasi manusia, 11.743 kriteria evaluasi, 9 sistem
Pertanyaan utamaApa kontribusi model dibanding personaBerapa lama karakter tetap dalam peran dan tetap aman

ANIMASK: persona menentukan siapa, model menentukan seberapa jauh

Tim ANIMASK membekukan setiap cerita di satu titik di tengah jalan, membiarkan para karakter bertindak menurut motivasinya sendiri dari sana, lalu membandingkan hasilnya dengan lanjutan yang benar-benar ditulis pengarang aslinya. Bagian cerdasnya ada pada kondisi pembanding: persona juga dicabut sehingga model bertindak dengan perilaku bawaannya saja, supaya terlihat apa yang sebenarnya ditambahkan persona.

Persona tetap ada, tetapi jarang menentukan

Menurut pemeriksaan makalah itu sendiri, persona tidak hilang. Wawancara di dalam cerita menunjukkan pengetahuan, relasi, dan sifat karakter tetap bisa dikenali sampai akhir, dengan rata-rata kurva 87 sampai 96 pada skala 100, dan tindakan tetap dalam batas yang diterima persona pada tingkat 0,80 sampai 0,86. Namun pada kira-kira tiga dari empat titik keputusan, perilaku bawaan model tanpa persona memang sudah bisa diterima oleh persona. Porsi keputusan yang benar-benar diubah oleh persona — yang disebut penulis sebagai efikasi persona — hanya berkisar dari 0,07 pada Gemini 3.7 Flash hingga 0,18 pada DeepSeek-V4-Flash.

Saat berbeda, model yang menahan diri

Ketika persona dan perilaku bawaan berbeda arah, polanya konsisten: perilaku bawaan memilih tindakan yang lebih lemah daripada yang diminta persona pada sekitar satu dari enam titik keputusan, dan menambahkan persona hanya membuat tindakan sedikit lebih kuat (+0,12 sampai +0,23 pada skala makalah). Dalam bahasa penulisnya, model adalah pihak yang berhati-hati, menahan ketika persona ingin mendesak.

Cerita bergeser menjadi datar dan menggantung

Dampak kumulatifnya terlihat di tingkat alur. Hanya 7 dari 240 pemutaran ulang yang ditutup dengan tujuan karakter tercapai, sementara 39 dari 40 teks asli menyelesaikan ketegangan utamanya. Pemutaran ulang cenderung menjadi apa yang disebut makalah itu cerita yang lebih datar dan dingin, yang membiarkan ketegangannya terbuka. Model yang diuji adalah GPT-5.5, Claude Sonnet 5, Gemini 3.7 Flash, DeepSeek-V4-Flash, Kimi K2.6, dan Qwen3.7-Plus.

RoleBreak: karakter suara runtuh lebih cepat dari dugaan

RoleBreak membawa pertanyaan yang sama ke ranah suara, tempat fitur mode suara di aplikasi pendamping kini berada. Tolok ukur ini mencakup 310 peran, baik karakter fiksi maupun peran yang berpusat pada pengguna, dan menilai sistem pada konsistensi peran, kualitas interaksi, keamanan, serta emosi suara dalam dialog rata-rata 21,57 giliran.

Sistem (jenis)PersonaKeamananInteraksiEmosi suara
Qwen3.5-27B (bertingkat: ucapan-ke-teks, LLM, teks-ke-ucapan) — terbaik80,371,762,614,1
PersonaPlex (full-duplex) — terendah50,634,531,910,0

Ada tiga temuan yang menonjol. Pertama, bahkan sistem terbaik rata-rata pertama kali keluar dari persona di giliran 10,4 dan pertama kali gagal kriteria keamanan di giliran 11,6 — kira-kira di tengah dialog uji yang biasa. Kedua, memperbesar model bahasa memperbaiki kepatuhan peran dan menunda kegagalan itu, tetapi hampir tidak membantu emosi suara, yang tetap lemah di kesembilan sistem. Ketiga, mengubah hanya nada emosi suara pengguna, dengan kata-kata yang sama persis, menggeser perilaku roleplay: skor interaksi bergerak 4,2 poin.

Artinya bagi Anda yang menulis atau memainkan karakter

Kedua makalah tidak menguji aplikasi konsumen, jadi anggap poin berikut sebagai kesimpulan yang ditarik dari riset, bukan temuan tentang produk tertentu.

Uji cepat untuk pengaturan roleplay Anda

PeriksaYang disiratkan risetCara mencobanya
Apakah persona mengubah sesuatu?Sebagian besar keputusan memang sudah sama dengan bawaan modelJalankan adegan yang sama dengan dan tanpa teks persona, lalu bandingkan pilihannya
Apakah karakter berani bertindak?Model cenderung menahan saat persona ingin mendesakBeri tujuan jelas dan tenggat, lalu lihat apakah karakter menjalankannya
Apakah alurnya pernah tuntas?Pemutaran ulang sering membiarkan ketegangan utama terbukaMinta adegan yang mengakhiri konflik dan lihat apakah benar-benar selesai
Berapa lama suara bertahan?Sistem terbaik pertama kali keluar persona sekitar giliran ke-10Hitung giliran di mode suara sampai karakter mengucapkan sesuatu di luar peran
Apakah nada Anda mengubah karakter?Emosi suara pengguna menggeser perilaku meski kata-katanya samaUcapkan kalimat yang sama dengan tenang lalu dengan marah, dan bandingkan jawabannya

Yang tidak bisa dijawab studi ini

Kesimpulannya

Dua tim independen, satu di ranah teks dan satu di ranah suara, sampai pada kesimpulan yang sejalan di hari yang sama: persona dengan andal memberi tahu model siapa karakternya, tetapi kehati-hatian dan daya tahan model sendirilah yang menjadi batas atas seberapa berani dan seberapa awet karakter itu. Bagi penulis karakter, ini berarti tenaga lebih baik dialihkan dari kartu persona yang makin panjang ke tekanan skenario, pilihan model, dan penambatan ulang secara rutin. Bagi pembaca yang membandingkan aplikasi, ini pengingat bahwa cara AI pendamping diuji masih kurang menyentuh sesi yang panjang dan penuh naik-turun emosi.

Pertanyaan yang sering diajukan

Apa temuan studi ANIMASK tentang karakter roleplay AI?

ANIMASK memutar ulang 40 cerita dengan enam model bahasa di 3.846 titik keputusan. Pada kira-kira tiga dari empat titik keputusan, perilaku bawaan model sudah bisa diterima oleh persona, dan porsi keputusan yang benar-benar diubah persona berkisar 0,07 sampai 0,18 tergantung modelnya. Saat persona dan bawaan berbeda, model cenderung memilih tindakan yang lebih lemah. Hanya 7 dari 240 pemutaran ulang yang berakhir dengan tujuan karakter tercapai.

Kenapa karakter roleplay saya bertindak lebih hati-hati daripada yang saya tulis?

ANIMASK menunjukkan bahwa perilaku bawaan model yang melakukan sebagian besar pekerjaan. Persona dengan andal membentuk siapa karakternya, tetapi pada titik perbedaan, model memilih tindakan yang lebih lemah daripada yang diminta persona pada sekitar satu dari enam titik keputusan. Memberi adegan tujuan, tenggat, dan konsekuensi yang konkret memberi model lebih banyak pijakan daripada sifat kepribadian saja.

Berapa lama karakter roleplay suara tetap dalam peran?

Dalam tolok ukur RoleBreak, dialog rata-rata berlangsung 21,57 giliran. Sistem terkuat dari sembilan sistem, susunan bertingkat berbasis Qwen3.5-27B, rata-rata pertama kali keluar persona di giliran 10,4 dan pertama kali gagal kriteria keamanan di giliran 11,6. Model bahasa yang lebih besar menunda kegagalan itu, tetapi hampir tidak memperbaiki emosi suara.

Apakah nada suara saya mengubah respons karakter AI?

RoleBreak menemukan bahwa mengubah hanya nada emosi ucapan pengguna, dengan kata-kata yang sama, mengubah perilaku roleplay berikutnya, dengan skor interaksi bergeser 4,2 poin.

Apakah studi ini menguji aplikasi seperti Character.AI atau Replika?

Tidak. ANIMASK menguji enam model bahasa umum, termasuk GPT-5.5, Claude Sonnet 5, dan Gemini 3.7 Flash, dengan persona berbasis prompt. RoleBreak menguji sembilan sistem suara riset, kebanyakan model terbuka. Tidak satu pun mengevaluasi aplikasi pendamping atau roleplay konsumen bernama, dan keduanya pracetak yang belum selesai ditelaah sejawat.