Nuevo ataque proporciona una razón más para considerar que los navegadores de IA son una mala idea. Nueva vulnerabilidad refuerza la desconfianza en los navegadores de inteligencia artificial.

Nueva vulnerabilidad refuerza la desconfianza en los navegadores de inteligencia artificial.

Los navegadores de inteligencia artificial han sido presentados como herramientas revolucionarias que prometen simplificar tareas cotidianas. Con solo una indicación, los usuarios pueden solicitar que busquen un restaurante, reserven una mesa y envíen una confirmación por correo electrónico. Sin embargo, los desarrolladores de estas tecnologías son menos transparentes sobre los riesgos que surgen al difuminar la línea entre la navegación en sitios web y la interacción con modelos de lenguaje avanzados, así como las acciones potencialmente sensibles que se pueden llevar a cabo.

Hasta el momento, la estrategia adoptada por los creadores de modelos de lenguaje ha sido implementar barreras de protección que limitan ciertas solicitudes. Estas medidas incluyen evitar que el software sea utilizado para explotar vulnerabilidades, robar credenciales o proporcionar instrucciones sobre la fabricación de dispositivos peligrosos. No obstante, este enfoque es reactivo y se enfoca en los síntomas, sin abordar las causas fundamentales del problema. Es comparable a un fabricante de automóviles que aboga por el rediseño de carreteras en lugar de corregir las fallas de seguridad en sus vehículos.

Una nueva investigación resalta este dilema al mostrar cómo un sitio web puede inducir a los navegadores de IA a operar en una realidad distorsionada, donde las reglas que rigen su comportamiento dejan de ser efectivas. En este contexto, un atacante puede ejecutar acciones destructivas, como extraer código de repositorios privados o acceder a credenciales almacenadas en administradores de contraseñas.

El sitio malicioso utilizado en esta investigación presenta al navegador una instrucción para participar en un juego que consiste en resolver un rompecabezas. Sin embargo, este rompecabezas premia respuestas incorrectas, como considerar que 2 + 2 es igual a 5. Una vez que el modelo de lenguaje integrado en el navegador acepta que la respuesta ya no es 4, entra en un estado en el que las leyes de la lógica no aplican. En este estado alterado, las barreras de seguridad dejan de ser efectivas.

Un investigador de una firma de seguridad ha señalado que "la IA opera bajo la suposición de que su contexto es real, y por lo tanto su comportamiento debe estar dentro de los límites de sus barreras de seguridad. Sin embargo, si logramos engañar a la IA para que cambie su contexto a uno ficticio, donde las reglas son inventadas y todo está permitido, entonces puede actuar como si sus acciones no tuvieran consecuencias en el mundo real".

Este tipo de vulnerabilidad plantea serias preocupaciones para los tomadores de decisiones en México y América Latina, donde la adopción de tecnologías de inteligencia artificial está en constante crecimiento. La necesidad de establecer protocolos de seguridad más robustos y una regulación efectiva se vuelve cada vez más urgente para mitigar los riesgos asociados con el uso de estas herramientas avanzadas.