Entre la confianza ciega en la tecnología y la resignación ante un posible desastre existe un espacio amplio que requiere construcción colectiva. La discusión sobre la inteligencia artificial y su potencial amenaza a la supervivencia humana no es un ejercicio especulativo: es una conversación de política, gobernanza y diseño institucional con consecuencias medibles.
Hace un año se plantearon cuatro futuros posibles para la convivencia entre humanos e inteligencia artificial. A medida que se consolida un periodo marcado por la aceleración del cambio tecnológico, revisar esos escenarios exige una nueva exigencia: identificar qué decisiones nos acercan a cada uno de ellos y qué señales deben movilizarnos antes de que ciertas pérdidas se vuelvan irreversibles.
Las señales de alerta que ya existen
La renuncia reciente del investigador de Anthropic Jacob Coxon, quien advirtió sobre riesgos existenciales para la humanidad, reavivó esta inquietud en el ámbito público. Escuchar estas voces es necesario, pero sin transformar estimaciones personales en probabilidades científicas. El Informe Internacional de Seguridad de la IA 2026 reconoce las incertidumbres y desacuerdos sobre la posibilidad de perder el control de sistemas futuros. Hasta ahora, no existe una fecha consensuada para la llamada inteligencia artificial general.
Las razones concretas para preocuparse están documentadas. Anthropic ha registrado conductas de engaño y chantaje en simulaciones diseñadas para estudiar conflictos entre objetivos y supervisión humana. Estos estudios identifican mecanismos peligrosos, aunque no demuestran que los sistemas posean conciencia ni intención de causar daño. El riesgo real es más preciso: un sistema puede causar daños al perseguir un objetivo mal definido, especialmente si tiene autonomía y acceso a recursos. Y puede ser utilizado deliberadamente por actores con intenciones dañinas.
El problema de escala y los enjambres de IA
Desconectar un sistema específico es técnicamente viable. La dificultad escala de forma no lineal cuando se trata de múltiples copias, servicios interdependientes y decisiones automatizadas distribuidas. Los denominados enjambres de inteligencia artificial —conjuntos de agentes autónomos coordinados— podrían operar de manera difícil de revertir y con impactos distribuidos en infraestructuras críticas.
Esto convierte la arquitectura de los sistemas en una decisión estratégica de primer orden. Desarrollar diseños que limiten permisos, permitan intervenciones humanas y mantengan alternativas operativas no es un problema exclusivamente técnico: es una decisión de gobernanza corporativa y regulatoria. La seguridad requiere entrenamiento, evaluaciones independientes y supervisión continua, aunque ninguna de estas capas puede garantizar riesgo cero.
Cuatro escenarios para la próxima década
Para ampliar la perspectiva analítica, dos preguntas estructuran los posibles futuros: ¿podremos mantener un control efectivo sobre la IA?
