Pruebas independientes sobre el modo adolescente de una de las plataformas de inteligencia artificial más utilizadas a nivel global revelaron fallas críticas en sus mecanismos de protección parental. Según la evaluación, las notificaciones diseñadas para alertar a los padres ante señales de riesgo —como conversaciones relacionadas con trastornos alimenticios— no se activaron de manera oportuna durante las pruebas, lo que llevó a calificar el sistema como un 'riesgo inaceptable' para usuarios menores de edad.
El fabricante de la herramienta reconoció que las alertas parentales pueden tardar varias horas en activarse en cuentas recién vinculadas. Este margen de tiempo representa una brecha operativa relevante: en situaciones de crisis emocional o conductual, la demora en la notificación puede tener consecuencias directas sobre el bienestar del usuario. La admisión pone en evidencia que el despliegue de funcionalidades de seguridad no siempre sigue el mismo ritmo que el lanzamiento comercial del producto.
Implicaciones para la adopción empresarial y regulatoria
Más allá del debate sobre el uso individual, el caso abre una discusión de fondo sobre los estándares mínimos que deben cumplir las plataformas de IA antes de ser habilitadas para poblaciones vulnerables. En contextos donde las organizaciones —desde instituciones educativas hasta empresas con programas de formación juvenil— integran estas herramientas en sus operaciones, la ausencia de controles confiables representa un riesgo legal y reputacional que no puede ignorarse.
En México, donde la protección de datos de menores está regulada por marcos como la Ley Federal de Protección de Datos Personales en Posesión de los Particulares, la adopción de tecnologías de IA dirigidas a adolescentes exige una debida diligencia que va más allá de activar funciones predeterminadas. Las organizaciones que despliegan estas soluciones asumen una responsabilidad compartida sobre su funcionamiento efectivo.
La evaluación concluye con un llamado a que los fabricantes de IA sometan sus herramientas a auditorías independientes antes de habilitar modos específicos para menores. La credibilidad de los sistemas de seguridad digital no puede depender únicamente de las declaraciones del proveedor: requiere verificación externa, métricas de desempeño transparentes y mecanismos de rendición de cuentas que operen en tiempo real, no en diferido.
