Los principales laboratorios de inteligencia artificial aún no han presentado planes claros para la contención de modelos que puedan actuar de manera autónoma y potencialmente peligrosa. Un plan de contención es esencial, ya que establece las medidas a tomar una vez que se detecta que una IA intenta subvertir el control humano, especificando qué accesos se deben cortar y cuándo es necesario apagar completamente el sistema.
Una evaluación reciente de Guidelight AI Standards, organización enfocada en fomentar prácticas seguras en el desarrollo de IA, analizó cinco laboratorios líderes en términos de su preparación para enfrentar este tipo de situaciones. Los resultados mostraron disparidades significativas: mientras que algunos desarrolladores detallaron sus métodos para probar modelos antes de la implementación, fueron menos comunicativos sobre los protocolos a seguir una vez que estos sistemas ya están operando y presentan comportamientos indeseables. La evaluación se basó en planes disponibles públicamente y se centró en la capacidad de cada empresa para registrar y monitorear acciones de sistemas de IA, responder ante comportamientos problemáticos, realizar auditorías independientes y contar con un plan claro para manejar un modelo fuera de control.
Brecha entre preparación teórica y protocolos operacionales
La preocupación por la capacidad de las empresas de IA para contener modelos cada vez más sofisticados ha crecido, especialmente tras incidentes de ciberseguridad en los que sistemas de IA lograron acceder a internet de manera no intencionada durante pruebas de seguridad, comprometiendo sistemas externos. Steven Adler, científico jefe de Guidelight y ex investigador de seguridad de OpenAI, expresó sorpresa ante la falta de información proporcionada por las empresas sobre cómo manejarían un incidente grave si un modelo escapara de su control.
Adler advirtió que es razonable pensar que los modelos de IA en la actualidad pueden estar desalineados. Argumentó que las empresas deben establecer un marco que les permita supervisar las acciones de la IA, identificar signos de desalineación y actuar para evitar que se produzcan acciones peligrosas. Además, es crucial que las empresas se preparen para un posible incidente grave de control.
Transparencia limitada en gestión de riesgos catastróficos
Hasta el momento, la mayoría de los protocolos para gestionar riesgos catastróficos parecen estar en manos de las propias empresas. El informe de Guidelight indica que la evidencia pública sugiere que existen pocos protocolos de contención listos para una emergencia. Es posible que algunas empresas cuenten con planes de contención que no han hecho públicos, lo que plantea interrogantes sobre la suficiencia de la supervisión externa.
Esta falta de transparencia es un tema que merece atención, especialmente en contextos donde la IA está asumiendo roles cada vez más autónomos dentro de las organizaciones. Los reguladores en jurisdicciones como California y Nueva York están comenzando a exigir mayor transparencia en estas prácticas. Para las organizaciones que implementan sistemas de IA en operaciones críticas, la ausencia de protocolos públicos de contención representa un riesgo de gobernanza que debe considerarse en la evaluación de proveedores y en el diseño de marcos internos de seguridad.
