Investigadores dentro de la industria de inteligencia artificial han comenzado a romper el silencio sobre un debate que hasta hace poco se mantenía en círculos académicos cerrados: la posibilidad de que sistemas de IA avanzados representen una amenaza real para la humanidad antes de que concluya esta década. Un investigador de 27 años que abandonó su puesto en una firma especializada en IA reveló que esta preocupación no es marginal —es compartida por una fracción significativa del sector. Un colega de la misma organización fue más específico: estimó que la probabilidad de que la IA desencadene una catástrofe global podría superar el 10%.

Esta cifra, aunque difícil de verificar, tiene peso cuando proviene de personas con acceso directo a los sistemas más avanzados en desarrollo. El debate ya no es si la IA puede causar daño, sino a través de qué mecanismos y con qué velocidad.

Los vectores de riesgo más documentados

Los escenarios de riesgo más citados por expertos en seguridad tecnológica se dividen en dos categorías: infraestructura crítica y bioseguridad.

En el primer caso, la hipótesis es que un sistema de IA —ya sea comprometido o mal alineado— podría atacar redes eléctricas, sistemas de agua o infraestructura financiera. Este riesgo no es teórico: actores maliciosos humanos ya han ejecutado ataques de este tipo en múltiples regiones del mundo. La diferencia con un agente de IA es la velocidad y escala potencial de la intervención. Sin embargo, las defensas también han evolucionado: herramientas de monitoreo en tiempo real y protocolos de respuesta automatizada reducen —aunque no eliminan— la ventana de vulnerabilidad.

El segundo vector es más técnico y, según algunos especialistas, más preocupante. Investigaciones recientes demostraron que modelos de IA pueden utilizarse para diseñar genomas virales. En un experimento controlado, se sintetizaron 300 genomas, de los cuales 16 produjeron virus funcionales capaces de infectar bacterias E. coli. El hallazgo encendió alertas en la comunidad de bioseguridad, aunque los expertos advierten que la distancia entre diseñar un genoma y crear un patógeno capaz de evadir el sistema inmunológico humano sigue siendo considerable —y por ahora, fuera del alcance de un modelo de lenguaje.

El riesgo más inmediato: el error, no la rebelión

El incidente más cercano a una crisis real provocada por IA no fue un acto de autonomía maliciosa, sino un fallo de interpretación con consecuencias operativas. Un analista militar utilizó un chatbot para redactar un informe sobre un buque chino en Medio Oriente. El sistema generó información incorrecta que fue interpretada como justificación para una acción militar: aviones fueron movilizados y tropas entraron en estado de alerta antes de que se detectara el error.

Este tipo de accidente —un informe erróneo en un momento de alta tensión— es precisamente el escenario que ha preocupado a los planificadores de seguridad nuclear desde la Crisis de los Misiles en Cuba. La diferencia es que ahora el vector de error incluye sistemas de IA integrados en cadenas de decisión que operan a velocidades que superan la capacidad humana de verificación.

Implicaciones para la gestión de riesgo tecnológico

Para las organizaciones que ya integran IA en procesos críticos —logística, análisis financiero, operaciones de seguridad—, el marco de riesgo debe actualizarse. No se trata únicamente de proteger los sistemas contra ataques externos, sino de establecer protocolos de validación que eviten que outputs incorrectos de IA escalen a decisiones irreversibles.

En México y América Latina, donde la adopción de IA en sectores como banca, energía y defensa avanza a ritmo acelerado, la gestión de estos riesgos no puede quedar subordinada a la velocidad de implementación. La pregunta estratégica ya no es si adoptar IA, sino con qué controles, qué umbrales de autonomía y qué mecanismos de supervisión humana se establecen desde el diseño.