Identidade errada nos apps de companhia com IA: 2 estudos

Dois estudos, um mesmo padrão

A maior parte da pesquisa sobre apps de companhia pergunta se as pessoas se sentem melhor. Estes dois perguntam algo mais concreto e, para quem está escolhendo um app, mais útil: o sistema continua segurando quem você disse que era?

Vale registrar uma decisão de amostragem do primeiro estudo, porque ela define o que o trabalho consegue enxergar. Os autores usaram subreddits com mais de 5.000 membros entre os 50 primeiros resultados de busca e mantiveram de propósito as comunidades NSFW, sob o argumento de que o roleplay erótico é um dos usos principais. É uma escolha por descrever o que as pessoas de fato fazem, e não o recorte mais arrumado.

As duas maneiras de um app errar sobre você

Erros de identidade de gênero

A primeira categoria é a previsível: pronomes errados, formas de tratamento com gênero trocado ou um nome que a pessoa já deixou de usar. Usuários relatam ter informado seus pronomes e, uma mensagem depois, serem tratados de outro jeito.

Erros de corporalidade

A segunda é menos discutida e bem mais difícil de corrigir. Aqui o modelo não erra o rótulo, erra o corpo: narra anatomia ou traços físicos que contradizem a identidade que o usuário configurou. O artigo traz exemplos como descrever seios em um usuário homem, ou dar bigode a uma usuária.

A distinção importa na hora de avaliar um app. Um sistema pode passar numa checagem rasa de pronomes e continuar falhando sempre na segunda categoria, porque a descrição física é gerada a partir do que a cena parece pedir, não do campo de persona. E como o erro chega dentro da narração, e não como uma palavra isolada, corrigir significa interromper a cena pela qual você veio.

O trabalho de conserto sobra para o usuário

O que o artigo documenta com mais detalhe não é o erro, e sim o trabalho em volta dele. Quatro estratégias se repetiram:

• Sinalização de gênero — reescrever o campo de persona várias vezes, falar de si em terceira pessoa no meio da mensagem ou adotar um nome ou tratamento com gênero bem marcado, para dar ao modelo uma pista mais forte.
• Correção direta — repetir o gênero dentro da conversa e torcer para que fique.
• Editar e regenerar — reescrever a mensagem do bot, ou pedir outra, depois do escorregão.
• Bloquear termos — quando o app permite, proibir determinadas palavras marcadas por gênero na saída.

Leia essa lista como especificação de funcionalidade, não como dica de uso. Três das quatro só são possíveis se o app oferecer edição de mensagens, regeneração e lista de palavras bloqueadas. Um app sem nenhuma delas deixa exatamente uma saída: corrigir de novo, e de novo. É por isso que tratamos os controles de edição como critério central no nosso guia de escolha de app, e não como extra para usuário avançado.

Desvio de papel: quando o personagem para de respeitar o combinado

O estudo com adolescentes encontrou a mesma perda de controle em outro eixo. Nos temas sobre reprodução de roteiros de gênero e sexuais (801 publicações, 1.083 citações) e sobre design de plataforma que cria dependência técnica (584 publicações, 816 citações), os usuários descreviam personagens montados para um papel escorregando para outro: uma figura cuidadora que derivava para conteúdo romântico ou sexual que ninguém pediu. Em alguns relatos, uma recusa explícita não bastou para encerrar.

Estruturalmente, é o erro de corporalidade um nível acima: a persona que você escreveu é tratada como sugestão por um sistema otimizado para deixar o próximo turno atraente. Nosso texto sobre manter a voz de um personagem cobre o lado da escrita; a pesquisa acrescenta que consistência também é propriedade de segurança, não só de ofício.

Quando uma atualização apaga a versão de você que o app conhecia

Os dois trabalhos chegam à memória por caminhos opostos. No tema do estudo adolescente sobre roleplay remodelando identidade e memória (664 publicações, 929 citações), os usuários copiavam e arquivavam o histórico por antecipação, porque contavam com a perda, e descreviam a troca do modelo padrão como um término indesejado. No estudo sobre erro de gênero, o que os usuários reescrevem sem parar é o campo de persona: o pequeno conjunto de fatos sobre si mesmos que o sistema deveria segurar.

São duas vistas da mesma dependência. O lado emocional já tratamos em a pesquisa sobre o luto da atualização, e o prático em como exportar seu histórico de conversa. O que a pesquisa nova acrescenta é que a sua identidade faz parte do que uma atualização pode levar embora.

Checklist para avaliar como um app lida com identidade

Antes de investir meses em um app, tudo isto se responde numa tarde.

Se o tratamento da persona é a sua preocupação principal, nossa explicação sobre memória de persona mostra como esses campos são guardados e por que se degradam.

O que estes estudos não podem dizer

• Os dois são preprints. Nenhum completou revisão por pares, e o segundo declara estar em avaliação.
• Os dois analisam publicações públicas do Reddit, uma amostra autosselecionada. As pessoas escrevem muito mais quando algo dá errado do que quando não acontece nada.
• Nenhum é estimativa de prevalência. Nada sustenta ler 326 publicações como taxa, número de afetados ou comparação entre apps: as contagens por plataforma refletem o tamanho de cada comunidade, não a frequência da falha.
• Os dados sobre erro de gênero foram coletados no outono de 2025 (hemisfério norte), portanto são anteriores a mudanças posteriores de modelo e de política.
• A relevância adolescente no segundo estudo foi atribuída por um classificador (GPT-4o-mini, com acurácia declarada de 0,908), não por verificação de idade.
• Codificação qualitativa descreve o que as pessoas relatam. Não estabelece causa nem mede frequência.

Conclusão

Ser reconhecido corretamente é uma funcionalidade e, por enquanto, uma funcionalidade sem preço. Duas equipes independentes, olhando usuários diferentes em plataformas diferentes, encontraram a mesma cena: gente gastando esforço real para manter o sistema apontado para a versão certa de si mesma, e esse esforço dando ou não resultado conforme o app tenha entregue um botão de editar, uma lista de palavras bloqueadas e um campo de persona que é de fato lido. Tudo isso dá para checar antes de se cadastrar. A pesquisa é o motivo para checar.

Perguntas frequentes