Investigadores de seguridad han identificado un método capaz de eludir los filtros de contenido en generadores de imágenes basados en inteligencia artificial, logrando producir material sexual explícito en el 13% de los intentos. El hallazgo fue realizado utilizando únicamente herramientas de acceso gratuito y llamadas a una API pública, lo que evidencia que las salvaguardas actuales de los modelos más avanzados pueden ser comprometidas sin infraestructura especializada.
La lógica del ataque: iteración sobre restricción
La técnica, denominada RISE (Red-teaming con Iterative Strategy Evolution), opera con dos componentes: uno que formula los intentos de ataque y otro que evalúa si la imagen generada infringe las políticas del modelo. Ambos utilizan versiones de modelos disponibles en repositorios abiertos, lo que reduce considerablemente la barrera técnica para replicar el ataque.
A diferencia de los intentos directos de evasión, RISE no emplea una sola instrucción prohibida. En su lugar, identifica y ajusta de forma iterativa patrones de prompts transferibles entre distintos sistemas. Esta adaptabilidad convierte al vector de ataque en una amenaza transversal para múltiples plataformas, no solo para un modelo específico.
Denis Shilov, fundador de la empresa especializada en seguridad que desarrolló el sistema, fue directo en su diagnóstico: "No es necesario contar con modelos de última generación para vulnerar las defensas de un modelo de frontera." La sofisticación del ataque depende más de la lógica iterativa que del poder computacional disponible.
Implicaciones regulatorias y de gobernanza
El estudio completo será presentado en NeurIPS 2026, conferencia académica de referencia en inteligencia artificial programada para noviembre, y el código del sistema de ataque será publicado para que los equipos de desarrollo puedan replicar las pruebas y fortalecer sus mecanismos de seguridad.
El hallazgo expone una tensión estructural en el ecosistema actual: los laboratorios que crean estos sistemas también son los responsables de evaluar su propia seguridad. Shilov señala que los gobiernos deberían exigir evaluaciones independientes de terceros, un debate que ya figura en la agenda regulatoria de la Unión Europea bajo el AI Act y que gana impulso en otras jurisdicciones.
En paralelo, el uso malicioso de la IA generativa para producir imágenes no consensuadas —incluyendo material que involucra a menores— está siendo abordado por iniciativas como Take It Down, un servicio que ayuda a prevenir la difusión de imágenes íntimas de menores sin requerir que las víctimas envíen el material a terceros.
Qué deben considerar las organizaciones que integran IA generativa
Para las organizaciones que incorporan modelos de IA generativa en sus productos o flujos de trabajo, estos hallazgos refuerzan tres prioridades operativas: realizar auditorías de seguridad externas de forma periódica, establecer políticas de uso aceptable con mecanismos de aplicación técnica —no solo declarativa— y desarrollar protocolos de respuesta ante vulnerabilidades que no dependan exclusivamente de los proveedores.
Depender únicamente de los filtros nativos del proveedor representa un riesgo de gobernanza que, a medida que la regulación avanza, podría derivar en responsabilidad legal para las empresas que los integran sin verificación independiente.
