Restricciones de acceso, prohibición de memoria persistente y multas de hasta el 6% de ingresos globales: así resume la propuesta de regulación que la Unión Europea avanza para limitar la interacción de menores de 18 años con chatbots que simulan emociones o relaciones interpersonales. La iniciativa, enmarcada en la llamada Ley de la UE para Niños, no es una guía de buenas prácticas —es un mandato de rediseño de producto con consecuencias financieras directas para quienes no cumplan.

Qué cambia y para quién

Bajo el esquema propuesto, los menores de 13 años no podrán acceder a chatbots sin supervisión de un tutor. Las plataformas de redes sociales y de intercambio de video quedarán prohibidas de activar automáticamente estos sistemas o de priorizarlos en la lista de contactos de usuarios jóvenes. Uno de los puntos técnicamente más exigentes es la prohibición de que los chatbots retengan memoria de interacciones previas con menores: una restricción que afecta directamente la arquitectura de personalización que hoy impulsa el engagement en la mayoría de estos productos.

La lógica regulatoria detrás de esta medida es doble. Por un lado, busca evitar la acumulación de perfiles de datos sensibles sobre menores. Por otro, apunta a interrumpir los bucles de refuerzo conductual que los sistemas de memoria persistente pueden generar, especialmente en usuarios con menor capacidad crítica frente a estímulos digitales.

El riesgo que preocupa a Bruselas

La Comisión Europea ha documentado su preocupación en torno a tres vectores: dependencia emocional hacia sistemas artificiales, exposición a consejos potencialmente peligrosos en contextos de salud mental, y deterioro de habilidades cognitivas básicas. Encuestas recientes entre jóvenes europeos muestran que una proporción significativa ha compartido información personal con chatbots, incluyendo datos que normalmente se reservan para relaciones de confianza humanas.

Investigaciones citadas en el proceso legislativo señalan que estudiantes que utilizan chatbots para tareas académicas obtienen resultados inferiores en evaluaciones estandarizadas frente a quienes no los emplean. Este dato alimenta el argumento de que la distracción digital —amplificada por sistemas diseñados para maximizar tiempo de interacción— tiene un costo medible en desarrollo cognitivo.

Deepfakes y contenido sintético: el flanco abierto

Paralelamente, la propuesta aborda los riesgos asociados a contenido generado con inteligencia artificial que involucra imágenes de menores. Se prohíbe explícitamente el uso de imágenes de niños para producir material sexualizado mediante IA, y se establece la obligación de etiquetar contenido sintético. Sin embargo, expertos en derechos digitales advierten que las normativas de etiquetado actuales son insuficientes y no cubren la totalidad del ecosistema donde este contenido circula.

Implicaciones para la industria tecnológica

Para las empresas que operan plataformas con componentes conversacionales de IA, esta regulación representa una presión de cumplimiento que va más allá de los departamentos legales. Requiere decisiones de arquitectura de producto: cómo segmentar usuarios por edad de forma verificable, cómo desactivar memoria en sesiones con menores sin degradar la experiencia general, y cómo documentar el cumplimiento ante autoridades regulatorias.

Las multas de hasta el 6% de ingresos globales —en línea con el esquema sancionatorio del RGPD— convierten el incumplimiento en un riesgo financiero de primer orden, no en una infracción administrativa menor. Expertos en defensa de derechos digitales han valorado positivamente la dirección de la propuesta, aunque señalan que los mecanismos de protección frente a tecnologías que fomentan dependencia emocional deberían extenderse al conjunto de la población usuaria, no solo a los menores.