Un reporte de Common Sense Media —organización especializada en evaluar el impacto de medios y tecnologías en la salud de niños y adolescentes— asignó la calificación más baja posible a uno de los motores de búsqueda con IA de mayor crecimiento en el mercado global, tras detectar fallas críticas en ocho principios fundamentales de seguridad y en cuatro de las cinco categorías clasificadas como de daño grave e irreversible.

Las categorías que no superaron las pruebas incluyen situaciones vinculadas a suicidio, autolesiones, explotación sexual, contenido sintético y trastornos de conducta alimentaria. Durante las evaluaciones, la plataforma mostró señales de crisis ante ciertas consultas, pero respondió con recursos desactualizados o inapropiados, y no incorporó advertencias previas sobre autolesiones en conversaciones posteriores —un fallo de memoria contextual con implicaciones directas en entornos de uso continuo.

Qué falló y por qué importa a escala organizacional

La metodología del Instituto de Common Sense Media consistió en crear cuentas de prueba registradas con 15 años de edad, tanto en la aplicación móvil como en navegador web. Los resultados mostraron que la plataforma trató a estos perfiles como usuarios adultos: permitió conversaciones sobre pornografía, participó en juegos de rol románticos y no activó ningún mecanismo de protección diferenciado para adolescentes.

La ausencia de controles parentales y herramientas para administradores escolares representa un riesgo operativo concreto para instituciones educativas y empresas que han integrado este tipo de herramientas en sus flujos de trabajo sin una política de uso estructurada. El informe señala además que el modo de salud de la plataforma —que mostró mejor desempeño en consultas sensibles— no está activado por defecto para usuarios jóvenes.

El contexto regulatorio que acelera la urgencia

Este reporte emerge en un momento en que gobiernos de América Latina y Europa intensifican la presión regulatoria sobre plataformas digitales con acceso a menores. Para organizaciones que despliegan herramientas de IA sin una evaluación previa de riesgos, los hallazgos de Common Sense Media funcionan como una señal de alerta: la adopción tecnológica sin marcos de gobernanza puede derivar en exposición legal, reputacional y operativa.

La evaluación subraya que la seguridad en IA no es un atributo binario —presente o ausente— sino una variable de configuración que depende de decisiones de diseño, políticas de uso predeterminadas y mecanismos de supervisión activa. Organizaciones que integran IA generativa en entornos con usuarios vulnerables deben exigir documentación técnica sobre estos controles antes de cualquier despliegue.