Nueve de cada diez registros que los sistemas de inteligencia artificial conversacional almacenan sobre sus usuarios fueron creados sin que estos lo solicitaran. Esa es la conclusión central de una investigación presentada en la ACM Web Conference 2026 por científicos del Instituto Max Planck para Sistemas de Software y la Universidad Ruhr de Bochum, quienes analizaron 2,050 entradas de memoria generadas por ChatGPT a partir de los historiales de conversación de 80 usuarios reales.

Los participantes accedieron a sus datos mediante el derecho de acceso contemplado en el Reglamento General de Protección de Datos (RGPD) de la Unión Europea. El hallazgo más significativo: solo el 4% de las memorias fue creado a petición directa del usuario. El 96% restante se generó de forma unilateral mientras el sistema respondía consultas ordinarias, sin instrucción explícita para retener información.

Qué tipo de información se almacena

El 52% de las memorias analizadas contiene lo que los investigadores denominan "información psicológica": deseos, intenciones, emociones y creencias inferidas a partir del contenido de las conversaciones. Un 28% de esos datos fue clasificado como sensible bajo la normativa europea.

El análisis utilizó como marco teórico la Teoría de la Mente, disciplina de la psicología cognitiva que permite inferir estados mentales a partir del comportamiento observable. Bajo ese enfoque, los deseos representaron el rasgo más frecuente, presente en el 73% de las memorias, seguidos por intenciones (16%), emociones (14%) y creencias (11%). En conjunto, deseos e intenciones concentran casi el 90% de los datos psicológicos almacenados.

Un caso documentado en el estudio ilustra el mecanismo: cuando un usuario solicita recomendaciones de bandas similares a Nirvana, el sistema registra que esa persona "le gusta Nirvana", aunque nunca lo haya afirmado de forma explícita. La propia plataforma etiquetó esa inferencia como "débilmente respaldada".

Precisión alta, transparencia baja

A pesar de la naturaleza inferencial del proceso, el 84% de las memorias analizadas resultó fiel al contenido real de las conversaciones. El sistema no fabrica información: la extrae, con distintos niveles de precisión, de lo que el usuario efectivamente escribió. Sin embargo, la fidelidad técnica no resuelve el problema de fondo: los usuarios desconocen qué se está registrando y con qué propósito.

La lógica detrás de este comportamiento es funcional. Los sistemas conversacionales utilizan estos perfiles para personalizar respuestas y mejorar la relevancia de la interacción a lo largo del tiempo. Pero la acumulación de rasgos psicológicos duraderos —preferencias, intenciones, creencias— sin consentimiento informado plantea riesgos regulatorios y reputacionales concretos para cualquier organización que despliegue estas herramientas en entornos donde sus colaboradores o clientes interactúan con ellas de forma habitual.

Para empresas que operan en jurisdicciones con marcos de protección de datos activos, este hallazgo anticipa un escenario de mayor escrutinio regulatorio sobre el uso corporativo de plataformas de IA generativa, particularmente en lo que respecta a la gestión del consentimiento y la trazabilidad de los datos inferidos.