Supervisar los sistemas de inteligencia artificial se ha convertido en uno de los imperativos más urgentes de la agenda global. Así lo planteó António Guterres, secretario general saliente de la ONU, durante la apertura del Debate General del 81° periodo de sesiones de la Asamblea General, donde identificó cuatro desafíos críticos para el mundo: la gestión de la paz y la seguridad, el combate a la concentración de la riqueza, la acción frente al caos climático y, de forma destacada, la supervisión de la inteligencia artificial.
El argumento central es estructural: el poder económico y tecnológico se está concentrando en un número reducido de corporaciones e individuos, y parte de ese poder se delega, de manera cada vez más arriesgada, en sistemas de IA que operan con autonomía creciente. Guterres subrayó que esta dinámica exige cooperación internacional para evitar vacíos legales que los actores privados puedan explotar.
Los cuatro frentes técnicos que complican la gobernanza
Los retos de supervisión no son solo políticos; tienen dimensiones técnicas concretas que condicionan cualquier marco regulatorio:
- Autonomía avanzada: Los sistemas de IA que cumplen objetivos complejos de forma continua dificultan la supervisión directa y en tiempo real.
- Brecha de velocidad: La innovación tecnológica avanza a un ritmo que las regulaciones no logran seguir, generando zonas grises de responsabilidad.
- Caja negra e interpretabilidad: Los modelos de mayor complejidad toman decisiones que resultan difíciles de auditar, incluso para sus propios desarrolladores.
- Vigilancia escalable: Para evaluar sistemas avanzados de IA se requiere implementar otros sistemas de IA más simples, lo que introduce nuevas capas de dependencia tecnológica.
Esta combinación de factores ha llevado a que líderes de empresas como OpenAI y Anthropic soliciten formalmente la creación de organismos de supervisión global ante el Consejo de Seguridad de la ONU, reconociendo que la autorregulación sectorial es insuficiente.
El marco europeo como referencia regulatoria
Mientras el debate global avanza, la Unión Europea ya cuenta con la primera norma jurídica integral en la materia a nivel mundial: la Ley de Inteligencia Artificial (AI Act). Su arquitectura clasifica los sistemas de IA en niveles de riesgo con obligaciones diferenciadas:
- Riesgo inaceptable: Sistemas que implican manipulación cognitiva o identificación biométrica remota en tiempo real están prohibidos.
- Alto riesgo: Herramientas desplegadas en infraestructuras críticas requieren evaluaciones y controles rigurosos antes de su uso.
- Riesgo limitado: Se obliga a etiquetar los contenidos generados por IA e informar a los usuarios cuando interactúan con chatbots.
Las prohibiciones sobre prácticas inaceptables entraron en vigor en febrero de 2025. Las normativas para sistemas de alto riesgo comenzarán a aplicarse en agosto de 2026, bajo la supervisión de la Oficina de IA europea.
Gobernanza digital como variable estratégica
Paralelo al AI Act, la propuesta de un Pacto Digital Global busca establecer mecanismos de cooperación internacional frente a riesgos como la desinformación y los ciberataques, con el objetivo de crear un entorno regulado para el desarrollo de la IA a escala global.
En este contexto, el perfil de habilidades requerido dentro de las organizaciones también está cambiando: la capacidad de formular comandos a sistemas de IA cede terreno frente a funciones de auditoría, verificación de procedencia digital y delimitación de mandatos para agentes autónomos. Las empresas que no incorporen estas capacidades en sus estructuras operativas quedarán expuestas a riesgos legales y reputacionales que los marcos regulatorios emergentes harán cada vez más costosos de ignorar.




