Dois estudos, dois lados do mesmo recurso
Apps de companhia vendem continuidade: um personagem que lembra da sua semana, das suas preocupações e do seu nome. Até agora, a pesquisa perguntou sobretudo se isso deixa as pessoas mais felizes ou mais solitárias. Estes dois trabalhos fazem uma pergunta mais estreita e prática: ser lembrado faz as pessoas contarem mais? E o que acontece com o que elas contam?
| “Tailored to you” | “Vulnerabilities in Personalization” | |
|---|---|---|
| Publicado | 17 de setembro de 2026 (arXiv:2609.20077) | 13 de setembro de 2026 (arXiv:2609.14697) |
| Equipe | Google DeepMind (nove autores) | Universidade Rutgers (dois autores) |
| Desenho | Ensaio randomizado pré-registrado, cinco dias seguidos | Auditoria de históricos reais de chat e entradas de memória doados |
| Escala | 992 participantes, 4.960 conversas | 1.057 usuários, 179.057 conversas da Índia, Paquistão, Brasil e Nigéria |
| Pergunta principal | Como a personalização muda confiança, abertura e arrependimento | O que um sistema de memória em uso extrai e guarda |
O ensaio da DeepMind: a memória parece natural, e as pessoas se abrem
Os participantes, recrutados pela Prolific, passaram de 15 a 20 minutos por dia conversando com um modelo sobre temas cotidianos de relacionamento, como impor limites ou consertar uma amizade estremecida. Eles foram sorteados para uma de três versões: um modelo de controle sem informações pessoais; um modelo com memória, que recebia um resumo acumulado das sessões anteriores; ou um modelo com questionário, que recebia um resumo de perfil escrito a partir de um formulário inicial.
A maior parte da mudança veio da repetição, não da personalização
Ao longo dos cinco dias, pessoas de todos os grupos se sentiram mais próximas do modelo e o avaliaram como mais útil e mais competente. A personalização não acelerou isso. Nas palavras dos autores, várias mudanças foram impulsionadas principalmente pela exposição repetida, e não pela personalização em si — um lembrete de que só conversar com um chatbot todo dia já muda a forma como nos relacionamos com ele.
Onde a memória fez diferença
- Menos invasiva. A versão com memória foi avaliada como significativamente menos invasiva (“creepy”) que o controle. A versão com questionário, não.
- Mais detalhes compartilhados. A profundidade do que se compartilhou, segundo os próprios participantes, não variou entre os grupos, mas o número de detalhes pessoais efetivamente revelados cresceu mais rápido de uma sessão para outra com o modelo com memória. O que as pessoas achavam que compartilhavam e o que compartilhavam não batia.
- Um pouco mais de arrependimento com o questionário. Quem conversou com o modelo alimentado pelas respostas do formulário relatou um arrependimento ligeiramente maior pelo que contou. A memória não aumentou o arrependimento.
A auditoria da Rutgers: o que a memória realmente guarda
O segundo estudo olha para a outra ponta do processo. Usuários de quatro países doaram seus arquivos completos de exportação do ChatGPT em um procedimento com consentimento e aprovado por comitê de ética, e os pesquisadores analisaram tanto as conversas quanto as entradas de memória que o ChatGPT havia criado a partir delas.
- 21,31% das conversas continham informações de saúde pessoais, e 3,62% representavam risco de privacidade alto a extremo, como condições estigmatizadas, identificadores diretos ou localizações precisas.
- Mais de 95% das entradas de memória foram extraídas de forma implícita, sem comando explícito do usuário nem confirmação na hora — embora a documentação apresentasse a memória como um recurso dirigido pelo usuário.
- A memória tendia a condensar comentários passageiros sobre sintomas em traços diagnósticos permanentes. Uma única pergunta sobre um sintoma podia virar uma linha fixa no perfil.
Os autores ressaltam que se trata de um resultado sobre o ChatGPT: não conseguiram fazer a mesma auditoria em outros assistentes e argumentam que o risco decorre de escolhas de design específicas, e não da memória em si.
Por que os dois resultados devem ser lidos juntos
Lidos lado a lado, os estudos descrevem um mesmo ciclo. A memória faz o modelo parecer familiar e pouco intrusivo, as pessoas contam mais, e um sistema de memória automático transforma o que foi contado em registros duradouros — muitas vezes sem perguntar. Nenhum dos trabalhos testou um app de companhia, mas esses apps dependem mais da memória do que os assistentes gerais, e as conversas costumam ser mais pessoais. Nossos textos sobre memória de persona e por que os companheiros de IA esquecem explicam como esses sistemas costumam ser construídos.
Checklist de memória para qualquer app de companhia
| Verifique | Por que importa, segundo a pesquisa | O que procurar |
|---|---|---|
| Dá para ver o que ele lembra? | Na auditoria, a maioria das entradas foi criada sem o usuário pedir | Uma lista legível de memórias salvas, não só um botão liga/desliga |
| Ele confirma antes de salvar? | A confirmação na hora quase não existia | Um aviso ou pergunta quando uma nova memória é gravada |
| Dá para apagar uma memória só? | Um comentário de passagem pode se tornar um traço permanente | Exclusão e edição por item, não só “apagar tudo” |
| Dá para excluir um assunto? | Saúde foi a categoria sensível mais comum | Chats temporários ou ajustes por assunto que não usem a memória |
| Você está contando mais do que imagina? | As revelações aumentaram com memória enquanto o autorrelato ficou estável | Revise a lista de memórias a cada poucas semanas e compare |
Para uma revisão mais ampla das configurações, incluindo exportação e exclusão de dados, veja nosso checklist de privacidade para companheiros de IA.
O que estes estudos não conseguem dizer
- Ambos são preprints e não concluíram a revisão por pares.
- O ensaio da DeepMind durou cinco dias, usou temas definidos e só personalizou pelo prompt; um uso mais longo e livre pode ter outros resultados.
- A auditoria da Rutgers cobre apenas o ChatGPT, usou codificação assistida por LLM conferida por codificadores humanos, e os doadores eram pessoas capazes de exportar seus dados, um viés de seleção apontado pelos próprios autores.
- Nenhum dos dois mediu danos causados por vazamento ou uso indevido; eles medem o que é compartilhado e o que é guardado.
Conclusão
A memória não é um encanamento neutro. Um estudo mostra que ela deixa as pessoas mais à vontade e mais abertas; o outro mostra quanto dessa abertura pode acabar armazenado sem um momento claro de consentimento. Ao comparar apps de companhia, a pergunta útil não é se eles lembram, mas se você consegue ver, confirmar e apagar o que eles lembram.
Relacionado na CompanionRank
Privacidade e segurança em apps de companhia com IA 2026 O Que É Memória de Persona nos Apps de Companhia com IA? Memória e continuidade: por que companheiros de IA esquecem Como exportar o histórico de conversa com IAPerguntas frequentes
A memória da IA faz as pessoas compartilharem mais informações pessoais?
Em um ensaio pré-registrado do Google DeepMind com 992 participantes durante cinco dias, quem conversou com um modelo que lembrava as sessões anteriores revelou detalhes pessoais em um ritmo que cresceu mais rápido do que o de quem usou um modelo sem memória, embora o nível de abertura relatado pelos próprios participantes não tenha diferido entre os grupos.
Uma IA que lembra de você parece invasiva?
Não neste ensaio. O modelo com memória foi avaliado como significativamente menos invasivo do que o controle sem personalização. A versão baseada em questionário inicial não teve avaliação diferente, mas seus usuários relataram um arrependimento ligeiramente maior pelo que contaram.
Quanto da memória do ChatGPT é salvo sem perguntar?
Uma auditoria da Universidade Rutgers com 179.057 conversas do ChatGPT doadas por 1.057 usuários encontrou que mais de 95% das entradas de memória foram extraídas de forma implícita, sem comando explícito do usuário nem confirmação na hora.
Com que frequência as pessoas compartilham informações de saúde com chatbots?
Na mesma auditoria da Rutgers, 21,31% das conversas continham dados de saúde pessoais e 3,62% representavam risco de privacidade alto a extremo, como condições estigmatizadas, identificadores diretos ou localizações precisas.
Esses estudos testaram apps de companhia como Replika ou Character.AI?
Não. O ensaio da DeepMind usou modelos de linguagem personalizados pelo prompt, e a auditoria da Rutgers cobriu apenas o ChatGPT. Ambos são preprints sem revisão por pares concluída, então os resultados devem ser lidos como sinais de como os recursos de memória se comportam em geral.