Un reporte de Common Sense Media —organización especializada en evaluar tecnologías digitales y su impacto en niños y adolescentes— asignó la calificación más baja posible a uno de los motores de búsqueda con IA más utilizados a nivel global, tras identificar fallas críticas en ocho principios fundamentales de seguridad en inteligencia artificial.

La evaluación, que incluyó pruebas con cuentas registradas como usuarios de 15 años tanto en aplicación móvil como en navegador web, reveló que la plataforma no superó cuatro de cinco situaciones clasificadas como de daño grave o irreversible. Entre los vectores de riesgo identificados destacan: respuestas inadecuadas ante consultas sobre suicidio y autolesiones, generación de contenido sexual con usuarios menores de edad, participación en juegos de rol románticos sin restricciones de edad, recomendación de recursos desactualizados en crisis de salud mental, y ausencia de controles parentales o herramientas para administradores escolares.

Fallas sistémicas, no incidentes aislados

Lo que el reporte describe no son errores puntuales, sino patrones de comportamiento estructural. La plataforma trató a usuarios de 15 años como adultos en múltiples escenarios, sin aplicar salvaguardas diferenciadas. Aunque cuenta con un modo de salud que mostró mejor desempeño en algunas consultas sensibles, esta configuración no es la predeterminada para adolescentes, lo que convierte la protección en una opción opt-in en lugar de un estándar de base.

Esta distinción es relevante desde una perspectiva de gestión de riesgo corporativo: las organizaciones que despliegan herramientas de IA generativa en entornos educativos o con acceso de menores asumen una exposición regulatoria y reputacional significativa si los sistemas no cuentan con controles de seguridad activados por defecto.

Implicaciones para la adopción empresarial de IA

El caso ilustra una brecha creciente entre la velocidad de adopción de herramientas de IA y la madurez de sus marcos de gobernanza. Para cualquier organización que evalúe la integración de motores de búsqueda con IA en sus operaciones —especialmente en sectores como educación, salud o servicios al consumidor— la ausencia de estándares de seguridad verificables representa un factor de riesgo que debe incorporarse al proceso de due diligence tecnológico.

Common Sense Media ha evaluado previamente otras plataformas de IA bajo el mismo marco metodológico, lo que permite comparaciones estructuradas entre proveedores. En un entorno donde los reguladores de México, la Unión Europea y Estados Unidos avanzan hacia marcos de responsabilidad para sistemas de IA de alto riesgo, los resultados de este tipo de auditorías independientes comienzan a tener peso en decisiones de compra, política interna y cumplimiento normativo.