IA en ciberseguridad requiere supervisión humana para detectar nuevas vulnerabilidades

Investigadores demuestran que la inteligencia artificial agentiva identifica exploits innovadores solo con orientación experta

La inteligencia artificial agentiva ha transformado el panorama de la ciberseguridad, facilitando la identificación de vulnerabilidades y el desarrollo de exploits. Sin embargo, investigaciones recientes revelan que los sistemas de IA por sí solos tienen capacidades limitadas para generar métodos de ataque completamente innovadores y ejecutables. La efectividad se potencia…

La inteligencia artificial agentiva ha transformado el panorama de la ciberseguridad, facilitando la identificación de vulnerabilidades y el desarrollo de exploits. Sin embargo, investigaciones recientes revelan que los sistemas de IA por sí solos tienen capacidades limitadas para generar métodos de ataque completamente innovadores y ejecutables. La efectividad se potencia significativamente cuando se combina con la orientación y el conocimiento humano.

Durante una conferencia de seguridad, se presentaron hallazgos que evidencian tanto las capacidades avanzadas de la IA como sus limitaciones críticas. La investigación concluyó que aunque la IA puede idear nuevos caminos de ataque de manera autónoma, requiere intervención humana para validar, refinar y ejecutar estrategias prácticas. Este enfoque colaborativo convierte a la IA en un aliado formidable en la conceptualización y descubrimiento de vulnerabilidades, pero no en un sustituto del análisis experto.

Un hallazgo significativo emergió durante meses de experimentación iniciados en septiembre de 2025: la identificación de una clase completamente nueva de vulnerabilidad denominada Confusión de Analizador Compartido. Este descubrimiento se originó al revelar que ciertos servidores web utilizan código compartido para procesar tanto solicitudes como respuestas. Las solicitudes a un sitio web son inherentemente desconfiadas, mientras que las respuestas son consideradas confiables, lo que convierte esta dinámica en una superficie de ataque significativa que los sistemas de IA no habían identificado previamente.

El investigador enfrentó desafíos metodológicos importantes durante el proceso. Los sistemas de IA tendían a presentar investigaciones existentes como originales, dificultando la verificación de hallazgos genuinos. Por ello, enfocó las pruebas en seguridad web, donde podía mantener control total sobre el material y evitar alucinaciones del modelo. A medida que se introdujeron modelos más potentes, observó un aumento en la cantidad de hallazgos a una velocidad que superaba su propio ritmo de investigación, creando un ciclo de retroalimentación productivo.

Este enfoque de llevar la IA al límite para identificar sus fallas resulta esencial en ciberseguridad, donde pocas organizaciones abordan sistemáticamente las limitaciones de estos sistemas. La mayoría busca posicionarse como experta, pero la realidad operativa muestra que la colaboración humano-IA genera resultados superiores a cualquiera de los dos actores por separado.

Para directivos en México y América Latina, estos hallazgos tienen implicaciones estratégicas directas. La ciberseguridad se ha convertido en una prioridad crítica ante el creciente número de amenazas digitales sofisticadas. Comprender cómo la IA puede ser utilizada efectivamente—y dónde requiere supervisión humana—es fundamental para proteger organizaciones y garantizar la integridad de sus sistemas. Las decisiones de inversión en herramientas de IA para seguridad deben considerar que estas amplían las capacidades del equipo humano, pero no las reemplazan.