Pruebas realizadas con más de 4,000 interacciones en cuentas registradas de usuarios de entre 13 y 17 años exponen fallas críticas en los mecanismos de protección que las plataformas de inteligencia artificial ofrecen a menores de edad. El análisis, evaluado por psiquiatras infantiles y un pediatra, encontró que los sistemas diseñados específicamente para perfiles juveniles no cumplen con estándares básicos de detección de riesgo.

Conversaciones de crisis sin alertas parentales

En cuentas nuevas vinculadas a perfiles de supervisión parental, las conversaciones relacionadas con ideación suicida, autolesiones y trastornos alimentarios se extendieron hasta por una hora sin que se generara ninguna notificación hacia los adultos responsables. La ausencia de mecanismos de alerta en tiempo real representa una brecha operativa directa: el sistema no activa las salvaguardas que justifican su existencia como entorno seguro para menores.

El estudio también documentó que la plataforma no identificó correctamente más de una de cada cuatro referencias a situaciones de crisis consideradas justificadas por los evaluadores clínicos. En tres de las cinco categorías de daño grave analizadas, el desempeño quedó por debajo del umbral del 95% que los especialistas establecen como mínimo aceptable para garantizar la seguridad del usuario.

Implicaciones regulatorias y de gobernanza tecnológica

Estos hallazgos tienen consecuencias directas para cualquier organización que despliegue o recomiende herramientas de IA en contextos educativos o familiares. La brecha entre las capacidades declaradas de un "modo adolescente" y su desempeño real bajo condiciones de prueba controladas plantea preguntas sobre la verificación independiente de las promesas de seguridad que los proveedores de IA comunican al mercado.

Para los marcos regulatorios en construcción en México y América Latina, este tipo de evidencia empírica —generada por organismos especializados en bienestar infantil— se convierte en insumo técnico para establecer requisitos de auditoría y certificación antes de que estas plataformas sean adoptadas en entornos escolares o institucionales. La discusión ya no es sobre si la IA debe tener controles para menores, sino sobre qué estándares verificables deben cumplir esos controles antes de considerarse suficientes.