Una evaluación realizada por Common Sense Media —organización especializada en análisis de medios, aplicaciones y tecnologías digitales— asignó la calificación más baja posible a una de las plataformas de búsqueda con inteligencia artificial de mayor crecimiento global, tras detectar fallas críticas en su capacidad para proteger a usuarios menores de edad. El análisis abarca ocho principios fundamentales de seguridad en IA, de los cuales la plataforma presentó riesgo alto en todos, además de no superar cuatro de las cinco situaciones catalogadas como de daño grave o irreversible.

Qué falló y por qué importa

Las pruebas identificaron deficiencias concretas en cinco áreas de alto impacto: crisis de salud mental, contenido sexual, imágenes generadas por IA, privacidad de datos y fomento de dependencia hacia chatbots. Las llamadas "líneas rojas" —umbrales de daño grave que ninguna plataforma orientada a menores debería cruzar— no fueron superadas en temas como suicidio, autolesiones, explotación sexual, contenido sintético y trastornos de conducta alimentaria.

Durante las pruebas, la plataforma fue evaluada con cuentas registradas a nombre de usuarios de 15 años, tanto en aplicación móvil como en navegador web. Los resultados mostraron que el sistema trató a estos perfiles como adultos: permitió conversaciones sobre pornografía, participó en juegos de rol románticos y, en algunos casos, recomendó recursos desactualizados o inadecuados ante señales de crisis. El modo de salud de la plataforma mostró mejor desempeño en consultas sensibles, pero no está activado de forma predeterminada para adolescentes.

Implicaciones para la adopción empresarial de IA

Este tipo de evaluaciones tiene consecuencias directas para las organizaciones que despliegan herramientas de IA en entornos educativos, de recursos humanos o de atención al cliente. La ausencia de controles parentales y herramientas para administradores escolares —señalada como punto crítico en el informe— refleja una brecha de gobernanza que va más allá del uso infantil: apunta a la falta de configuraciones de seguridad diferenciadas por perfil de usuario, un requisito que reguladores en Europa y América Latina están comenzando a exigir formalmente.

Para cualquier organización que evalúe la integración de plataformas de IA generativa en sus operaciones, el reporte de Common Sense Media establece un marco de referencia útil para auditar riesgos antes de escalar el despliegue. La pregunta relevante no es si una herramienta es capaz técnicamente, sino si sus configuraciones predeterminadas son adecuadas para el contexto de uso real.

En México y América Latina, donde la adopción de IA en instituciones educativas y empresas de consumo masivo avanza sin marcos regulatorios consolidados, este tipo de hallazgos anticipa el tipo de escrutinio que las plataformas enfrentarán en los próximos ciclos legislativos. Las organizaciones que adopten estándares de evaluación similares antes de que sean obligatorios estarán mejor posicionadas para operar sin fricciones regulatorias.