Dos estudios, dos caras de la misma función
Las apps de compañía venden continuidad: un personaje que recuerda tu semana, tus preocupaciones y tu nombre. Hasta ahora, la investigación se ha preguntado sobre todo si eso hace a la gente más feliz o más solitaria. Estos dos trabajos plantean algo más concreto y práctico: ¿ser recordado hace que la gente cuente más?, ¿y qué pasa con lo que cuenta?
| «Tailored to you» | «Vulnerabilities in Personalization» | |
|---|---|---|
| Publicado | 17 de septiembre de 2026 (arXiv:2609.20077) | 13 de septiembre de 2026 (arXiv:2609.14697) |
| Equipo | Google DeepMind (nueve autores) | Universidad Rutgers (dos autores) |
| Diseño | Ensayo aleatorizado preregistrado, cinco días consecutivos | Auditoría de historiales reales de chat y entradas de memoria donados |
| Escala | 992 participantes, 4.960 conversaciones | 1.057 usuarios, 179.057 conversaciones de India, Pakistán, Brasil y Nigeria |
| Pregunta principal | Cómo cambia la personalización la confianza, las confidencias y el arrepentimiento | Qué extrae y conserva un sistema de memoria real |
El ensayo de DeepMind: la memoria se siente natural y la gente se abre
Los participantes, reclutados a través de Prolific, hablaron entre 15 y 20 minutos al día con un modelo sobre temas cotidianos de relaciones, como poner límites o reparar una amistad deteriorada. Se les asignó al azar a una de tres versiones: un modelo de control sin información personal; un modelo con memoria que recibía un resumen acumulado de sus sesiones anteriores; o un modelo con encuesta que recibía un resumen de perfil redactado a partir de un cuestionario inicial.
Casi todo el cambio vino de la repetición, no de la personalización
A lo largo de los cinco días, en todos los grupos la gente se sintió más cercana al modelo y lo valoró como más útil y más competente. La personalización no aceleró ese proceso. En palabras de los autores, varios cambios se debieron sobre todo a la exposición repetida y no a la personalización en sí: un recordatorio de que hablar con un chatbot cada día ya cambia la forma en que nos relacionamos con él.
Dónde sí marcó la diferencia la memoria
- Menos inquietante. La versión con memoria se valoró como significativamente menos inquietante que el control. La versión con encuesta, no.
- Más datos compartidos. La profundidad de lo compartido, según los propios participantes, no varió entre grupos, pero el número de datos personales que revelaron creció más rápido de una sesión a otra con el modelo con memoria. Lo que la gente creía compartir y lo que compartía no coincidían.
- Algo más de arrepentimiento con la encuesta. Quienes hablaron con el modelo alimentado con sus respuestas al cuestionario declararon un arrepentimiento ligeramente mayor por lo que habían contado. La memoria no aumentó el arrepentimiento.
La auditoría de Rutgers: qué guarda realmente la memoria
El segundo estudio mira el otro extremo del proceso. Usuarios de cuatro países donaron sus archivos completos de exportación de ChatGPT mediante un procedimiento con consentimiento y aprobado por un comité de ética, y los investigadores analizaron tanto las conversaciones como las entradas de memoria que ChatGPT había creado a partir de ellas.
- El 21,31% de las conversaciones contenía información de salud personal, y el 3,62% suponía un riesgo de privacidad alto o extremo, como afecciones estigmatizadas, identificadores directos o ubicaciones precisas.
- Más del 95% de las entradas de memoria se extrajo de forma implícita, sin una instrucción explícita del usuario ni confirmación en el momento, aunque la documentación presentaba la memoria como una función dirigida por el usuario.
- La memoria tendía a condensar comentarios temporales sobre síntomas en rasgos diagnósticos permanentes. Una sola consulta sobre un síntoma podía convertirse en una línea fija del perfil.
Los autores aclaran que se trata de un resultado sobre ChatGPT: no pudieron hacer la misma auditoría en otros asistentes y sostienen que el riesgo se deriva de decisiones de diseño concretas, no de la memoria en sí.
Por qué hay que leer los dos resultados juntos
Leídos en paralelo, los estudios describen un mismo circuito. La memoria hace que el modelo resulte familiar y poco invasivo, la gente cuenta más, y un sistema de memoria automático convierte lo contado en registros duraderos, a menudo sin preguntar. Ninguno de los dos trabajos probó una app de compañía, pero estas apps dependen de la memoria más que los asistentes generales y sus conversaciones suelen ser más personales. Nuestros artículos sobre la memoria de persona y por qué olvidan los compañeros de IA explican cómo se suelen construir estos sistemas.
Lista de comprobación de memoria para cualquier app de compañía
| Comprueba | Por qué importa según la investigación | Qué buscar |
|---|---|---|
| ¿Puedes ver lo que recuerda? | En la auditoría, la mayoría de las entradas se crearon sin que el usuario lo pidiera | Una lista legible de memorias guardadas, no solo un interruptor |
| ¿Pide confirmación antes de guardar? | La confirmación en el momento fue casi inexistente | Un aviso o mensaje cuando se escribe una memoria nueva |
| ¿Puedes borrar una sola memoria? | Un comentario de paso puede endurecerse en un rasgo permanente | Borrado y edición por elemento, no solo «borrar todo» |
| ¿Puedes excluir un tema? | La salud fue la categoría sensible más frecuente | Chats temporales o ajustes por tema que no usen la memoria |
| ¿Compartes más de lo que crees? | Las confidencias aumentaron con memoria mientras lo declarado no cambió | Revisa la lista de memorias cada pocas semanas y compara |
Para una revisión más amplia de los ajustes, incluida la exportación y eliminación de datos, consulta nuestra lista de privacidad para compañeros de IA.
Lo que estos estudios no pueden decirte
- Ambos son preprints y no han completado la revisión por pares.
- El ensayo de DeepMind duró cinco días, usó temas asignados y solo personalizó a través del prompt; un uso más largo y libre podría dar otros resultados.
- La auditoría de Rutgers abarca solo ChatGPT, usó una codificación asistida por LLM revisada por codificadores humanos, y los donantes eran personas capaces de exportar sus datos, un sesgo de selección que señalan los propios autores.
- Ninguno midió daños por filtraciones o mal uso; miden qué se comparte y qué se guarda.
En resumen
La memoria no es una tubería neutral. Un estudio muestra que hace que la gente se sienta más cómoda y más comunicativa; el otro, cuánta de esa apertura puede acabar almacenada sin un momento claro de consentimiento. Al comparar apps de compañía, la pregunta útil no es si recuerdan, sino si puedes ver, confirmar y eliminar lo que recuerdan.
Relacionado en CompanionRank
Ajustes de privacidad y seguridad en apps de compañía IA 2026 ¿Qué es la memoria de persona en las apps de compañía con IA? Memoria y continuidad: por qué los compañeros de IA olvidan Cómo exportar tu historial de chat con la IAPreguntas frecuentes
¿La memoria de la IA hace que la gente comparta más información personal?
En un ensayo preregistrado de Google DeepMind con 992 participantes durante cinco días, quienes hablaron con un modelo que recordaba las sesiones anteriores revelaron datos personales a un ritmo que creció más rápido que el de quienes usaron un modelo sin memoria, aunque el nivel de confidencias que declararon no difirió entre grupos.
¿Resulta inquietante una IA que te recuerda?
No en este ensayo. El modelo con memoria se valoró como significativamente menos inquietante que el control sin personalización. La versión basada en una encuesta inicial no se valoró de forma distinta, pero sus usuarios declararon un arrepentimiento ligeramente mayor por lo que habían contado.
¿Cuánta memoria de ChatGPT se guarda sin preguntar?
Una auditoría de la Universidad Rutgers sobre 179.057 conversaciones de ChatGPT donadas por 1.057 usuarios encontró que más del 95% de las entradas de memoria se extrajeron de forma implícita, sin instrucción explícita del usuario ni confirmación en el momento.
¿Con qué frecuencia la gente comparte información de salud con los chatbots?
En la misma auditoría de Rutgers, el 21,31% de las conversaciones contenía datos de salud personales y el 3,62% suponía un riesgo de privacidad alto o extremo, como afecciones estigmatizadas, identificadores directos o ubicaciones precisas.
¿Estos estudios probaron apps de compañía como Replika o Character.AI?
No. El ensayo de DeepMind usó modelos de lenguaje personalizados a través del prompt y la auditoría de Rutgers abarcó solo ChatGPT. Ambos son preprints sin revisión por pares completada, por lo que sus resultados deben leerse como señales de cómo se comportan las funciones de memoria en general.