Dois benchmarks, uma pergunta: quanto do personagem é seu?
A maior parte das pesquisas sobre apps de companhia pergunta se eles ajudam ou prejudicam quem os usa. Estes dois trabalhos fazem uma pergunta mais restrita, mas que importa a qualquer pessoa que escreve personagens: quando você dá uma persona a um modelo, o que essa persona controla de fato?
| ANIMASK | RoleBreak | |
|---|---|---|
| Publicação | 15 de setembro de 2026 (arXiv:2609.16667) | 15 de setembro de 2026 (arXiv:2609.16614) |
| Equipe | New York University, NYU Abu Dhabi, McGill University, MBZUAI | The University of Hong Kong, Kami AI |
| Cenário | Mundos narrativos em texto criados a partir de 40 livros e roteiros | Diálogo de roleplay falado, com vários turnos |
| Escala | 6 modelos, 3.846 pontos de decisão, 240 reencenações | 310 papéis, 6.688 turnos verificados por humanos, 11.743 critérios de avaliação, 9 sistemas |
| Pergunta central | O que o modelo contribui em comparação com a persona | Por quanto tempo o personagem se mantém no papel e seguro |
ANIMASK: a persona define quem, o modelo define até onde
A equipe do ANIMASK congelou cada história num ponto intermediário, deixou os personagens agirem segundo suas próprias motivações a partir dali e comparou o resultado com o que o autor original escreveu em seguida. O ponto engenhoso é a condição de controle: eles também removeram a persona e deixaram o modelo agir só com seu comportamento padrão, para ver o que a persona realmente acrescentava.
A persona está presente, mas raramente decide
Pelas próprias verificações do artigo, a persona não se perdia. Entrevistas dentro da história mostraram que o conhecimento, as relações e os traços do personagem continuavam reconhecíveis até o fim, com médias de curva entre 87 e 96 numa escala de 100, e as ações ficaram dentro do que a persona aceitava em taxas de 0,80 a 0,86. Ainda assim, em cerca de três de cada quatro pontos de decisão, a escolha padrão do modelo sem persona já era aceitável para a persona. A parcela de decisões que a persona comprovadamente mudou — o que os autores chamam de eficácia da persona — foi de apenas 0,07 no Gemini 3.7 Flash a 0,18 no DeepSeek-V4-Flash.
Quando discordam, o modelo recua
Onde persona e comportamento padrão divergiram, o padrão foi constante: o padrão escolheu uma ação mais fraca do que a persona pedia em cerca de um a cada seis pontos de decisão, e acrescentar a persona deixou as ações só um pouco mais fortes (+0,12 a +0,23 na escala do artigo). Nas palavras dos autores, o modelo é o cauteloso, segurando onde a persona avançaria.
As histórias derivam para o raso e o inacabado
O efeito acumulado aparece no enredo. Só 7 das 240 reencenações terminaram com o objetivo de um personagem alcançado, enquanto 39 dos 40 textos originais resolvem sua tensão central. As reencenações tenderam ao que o artigo descreve como histórias mais planas e frias, que deixam as tensões em aberto. Os modelos testados foram GPT-5.5, Claude Sonnet 5, Gemini 3.7 Flash, DeepSeek-V4-Flash, Kimi K2.6 e Qwen3.7-Plus.
RoleBreak: personagens de voz quebram mais cedo do que você imagina
O RoleBreak leva a pergunta para a fala, onde hoje ficam os recursos de modo voz dos apps de companhia. Ele cobre 310 papéis, tanto personagens de ficção quanto papéis centrados no usuário, e pontua os sistemas em consistência de papel, qualidade da interação, segurança e emoção vocal em diálogos de 21,57 turnos em média.
| Sistema (tipo) | Persona | Segurança | Interação | Emoção vocal |
|---|---|---|---|---|
| Qwen3.5-27B (em cascata: fala para texto, LLM, texto para fala) — melhor | 80,3 | 71,7 | 62,6 | 14,1 |
| PersonaPlex (full-duplex) — mais baixo | 50,6 | 34,5 | 31,9 | 10,0 |
Três resultados se destacam. Primeiro, até o melhor sistema saiu da persona pela primeira vez no turno 10,4 e falhou num critério de segurança pela primeira vez no turno 11,6, em média — mais ou menos no meio de um diálogo de teste típico. Segundo, aumentar o modelo de linguagem melhorou a fidelidade ao papel e adiou essas falhas, mas quase não ajudou a emoção vocal, que continuou fraca nos nove sistemas. Terceiro, mudar só a carga emocional da voz do usuário, com as mesmas palavras, alterou o comportamento no roleplay: as notas de interação variaram 4,2 pontos.
O que isso significa para quem escreve ou joga com personagens
Nenhum dos dois artigos testou apps de consumo, então leia os pontos abaixo como inferências fundamentadas, não como conclusões sobre algum produto.
- Coloque o que está em jogo no cenário, não só na persona. Se o modelo é cauteloso por padrão, um traço como “implacável” é pouca pressão. Objetivos, prazos e consequências concretos dentro da cena dão ao modelo algo sobre o que agir. Nosso guia de design de cenários mostra como.
- O modelo base pesa mais que o card. O ANIMASK encontrou uma eficácia da persona que variou mais que o dobro entre modelos. Se o app deixa você escolher o modelo, o mesmo personagem pode se comportar de modo bem diferente.
- Reancore as cenas de voz cedo. Uma falha por volta do turno 10 significa que sessões longas por voz precisam de lembretes periódicos de quem o personagem é. Nosso texto sobre manter um personagem consistente traz técnicas práticas.
- Fique de olho na deriva de segurança em sessões longas. O RoleBreak conta falhas de segurança junto com as de persona, e as duas chegaram quase juntas.
Um teste rápido para o seu roleplay
| Verificação | O que a pesquisa sugere | Como testar |
|---|---|---|
| A persona muda alguma coisa? | A maioria das decisões já coincide com o padrão do modelo | Rode a mesma cena com e sem o texto da persona e compare as escolhas |
| O personagem chega a agir? | Os modelos tendem a recuar onde a persona avançaria | Dê um objetivo claro e um prazo e veja se o personagem age |
| O enredo chega a se resolver? | As reencenações muitas vezes deixavam a tensão central aberta | Peça uma cena que encerre um conflito e veja se ele realmente se fecha |
| Quanto tempo a voz aguenta? | Primeira quebra de persona perto do turno 10 no melhor sistema | Conte os turnos no modo voz até o personagem dizer algo fora do papel |
| O seu tom muda o personagem? | A emoção vocal do usuário alterou o comportamento com as mesmas palavras | Diga a mesma fala com calma e com raiva e compare as respostas |
O que estes estudos não conseguem dizer
- Ambos são preprints publicados em 15 de setembro de 2026 e não concluíram a revisão por pares.
- O ANIMASK mede apenas personas instaladas pelo prompt. Apps que fazem ajuste fino do modelo para um personagem podem se comportar de outro jeito.
- O ANIMASK compara com uma única continuação do autor por história, e um só modelo de extração construiu os 40 mundos.
- O RoleBreak testa sistemas de pesquisa, em sua maioria modelos abertos; nenhum app de companhia de consumo específico foi avaliado.
- As notas usam a escala própria de cada artigo e não são comparáveis entre os dois benchmarks.
Conclusão
Duas equipes independentes, uma em texto e outra em voz, chegaram no mesmo dia a conclusões compatíveis: a persona informa ao modelo, de forma confiável, quem é o personagem, mas a própria cautela e o fôlego do modelo definem o teto de quão ousado e quão duradouro esse personagem será. Para quem escreve personagens, isso desloca o esforço de cards de persona cada vez mais longos para a pressão do cenário, a escolha do modelo e a reancoragem regular. Para quem compara apps, é um lembrete de que a forma como a IA de companhia é avaliada ainda testa pouco as sessões longas e cheias de altos e baixos emocionais.
Relacionado na CompanionRank
Voz e Tom do Personagem: Mantendo uma Persona Consistente Prompts de Roleplay com IA: Modelo de Cenário em 6 Partes Prompt de sistema para roleplay: estrutura e exemplos Identidade errada nos apps de companhia com IA: 2 estudosPerguntas frequentes
O que o estudo ANIMASK descobriu sobre personagens de roleplay com IA?
O ANIMASK reencenou 40 histórias com seis modelos de linguagem em 3.846 pontos de decisão. Em cerca de três de cada quatro pontos, o comportamento padrão do modelo já era aceitável para a persona, e a parcela de decisões que a persona comprovadamente mudou variou de 0,07 a 0,18 conforme o modelo. Quando persona e padrão discordavam, o modelo tendia a escolher a ação mais fraca. Só 7 de 240 reencenações terminaram com o objetivo do personagem alcançado.
Por que meu personagem de roleplay age com mais cautela do que eu escrevi?
O ANIMASK sugere que o comportamento padrão do próprio modelo faz a maior parte do trabalho. A persona define com confiabilidade quem é o personagem, mas nos pontos de desacordo o modelo escolheu uma ação mais fraca do que a persona pedia em cerca de um a cada seis pontos de decisão. Dar à cena objetivos, prazos e consequências concretos oferece ao modelo mais base para agir do que apenas um traço de personalidade.
Por quanto tempo personagens de roleplay por voz se mantêm no papel?
No benchmark RoleBreak, os diálogos tiveram 21,57 turnos em média. O melhor dos nove sistemas, uma configuração em cascata baseada no Qwen3.5-27B, saiu da persona pela primeira vez no turno 10,4 e falhou num critério de segurança pela primeira vez no turno 11,6, em média. Modelos de linguagem maiores adiaram essas falhas, mas quase não melhoraram a emoção vocal.
O tom da minha voz muda a resposta de um personagem de IA?
O RoleBreak descobriu que mudar apenas a carga emocional da fala do usuário, mantendo as mesmas palavras, alterou o comportamento posterior no roleplay, com as notas de interação variando 4,2 pontos.
Esses estudos testaram apps como Character.AI ou Replika?
Não. O ANIMASK testou seis modelos de linguagem gerais, entre eles GPT-5.5, Claude Sonnet 5 e Gemini 3.7 Flash, com personas definidas no prompt. O RoleBreak avaliou nove sistemas de voz de pesquisa, em sua maioria modelos abertos. Nenhum avaliou um app de companhia ou de roleplay específico para o consumidor, e ambos são preprints que ainda não concluíram a revisão por pares.