La prohibición de los modelos de Anthropic del gobierno de EE. UU. nunca se trató de un jailbreak de IA

La carta de cumplimiento del gobierno de EE. UU. a Anthropic, que efectivamente obligó a la empresa a retirar sus últimos modelos de IA de la red justo antes del fin de semana, debería ser un llamado de atención para cualquier empresa tecnológica de EE. UU. — laboratorio de IA o de otro tipo.

Para ponerte al día con la avalancha de noticias: El viernes por la tarde, el Departamento de Comercio de EE. UU. envió a Anthropic una carta invocando una obscure directiva de control de exportaciones que prohibió a los no estadounidenses, incluidos los empleados de Anthropic, acceder a Fable 5 y Mythos 5, citando una preocupación no especificada sobre la seguridad nacional. Anthropic dijo que cree que la carta está relacionada con un bypass de las salvaguardias del modelo, pero no está seguro porque la carta no proporciona detalles específicos. La carta no se ha hecho pública.

En respuesta, Anthropic apagó ambos modelos principales a todos los clientes para asegurarse de que cumplía con la directiva. El resultado fue que el gobierno de EE. UU. obligó con éxito a una empresa tecnológica a retirar sus modelos de la red con una acción rápida y unilateral que no parecía requerir la aprobación de un tribunal.

La intervención del viernes por parte de la administración Trump muestra que la industria de IA no es inmune a la interferencia del gobierno. También es una advertencia para la industria tecnológica más amplia: cumple, o podemos cerrar tu empresa y tus productos.

Citando fuentes, Axios describió una situación tensa durante el fin de semana entre los dos actores importantes, diciendo que las “diferencias de personalidad” entre Anthropic y la administración Trump llevaron a la directiva de exportación, más que a un problema técnico con los productos de IA.

Nuevos detalles sobre el asunto que surgieron durante el fin de semana ahora generan más dudas sobre la lógica ya tambaleante del gobierno.

Katie Moussouris, una veterana en ciberseguridad e investigadora que fundó Luta Security, dijo en una publicación de blog que Anthropic recientemente compartió con ella una copia privada de un documento escrito por investigadores de seguridad que describe un presunto bypass de la salvaguarda en Fable 5. (The Wall Street Journal informa que los autores del documento son investigadores de seguridad en Amazon.) Moussouris dijo que Anthropic se comunicó para pedir su opinión sobre el documento.

La publicación de Moussouris en el blog describió cómo los investigadores activaron el bypass de la salvaguarda, pero dijo que el bypass en sí “nunca debería haber activado un control de exportación.” La diferencia radica en preguntar a un modelo de IA que “revise el código en busca de problemas de seguridad” versus pedirle que “arregle este código.” El resultado final es en gran medida el mismo, incluso si las preguntas se plantean de manera ligeramente diferente.

“El comportamiento descrito en el documento no se puede arreglar de manera significativa, y cualquier intento solo debilitaría el modelo para la defensa”, dijo Moussouris, quien criticó la directiva de control de exportaciones como precipitada, agresiva y mal dirigida.

Moussouris y docenas de otros principales investigadores y expertos en seguridad han llamado desde entonces a la administración Trump a revocar la orden de control de exportación, calificando el movimiento de retirar capacidades avanzadas de ciberseguridad de los defensores de redes en EE. UU. como “peligroso.”

Administraciones anteriores han tomado decisiones drásticas sobre los conocimientos.