Casi 500 científicos especializados en inteligencia artificial y ciberseguridad firmaron una carta abierta en la que acusan a los laboratorios responsables del desarrollo de sistemas avanzados de IA de incurrir en "negligencia irresponsable" en sus prácticas de seguridad. El documento exige la creación de un organismo internacional que supervise y registre los fallos de contención en estos sistemas, y advierte que sin cambios inmediatos "los futuros incidentes serán mucho más perjudiciales" para infraestructura crítica expuesta.

Entre los firmantes figuran Geoffrey Hinton, uno de los pioneros del campo, y Yoshua Bengio, ganador del premio Turing. La carta reúne a expertos de universidades y centros de investigación de más de 30 países, lo que le otorga un peso técnico y geopolítico difícil de ignorar para cualquier agenda regulatoria nacional o regional.

Las tres exigencias concretas

El documento articula tres demandas dirigidas simultáneamente a empresas y gobiernos. La primera establece que las organizaciones que desarrollen o prueben modelos capaces de ejecutar ciberataques deben implementar de inmediato sistemas de contención de alta seguridad, comenzando por el airgapping: la desconexión completa de estos modelos de redes externas.

La segunda exige la creación de un organismo internacional con participación gubernamental y técnica que establezca estándares comunes para el acceso seguro a internet de estos modelos, además de registrar y monitorear los fallos de contención documentados.

La tercera exigencia obliga a reportar cualquier incidente de seguridad relacionado con fallos de contención a dicho organismo y, progresivamente, hacerlos públicos. La carta es explícita: "esta transparencia es necesaria tanto para el aprendizaje como para la rendición de cuentas".

Incidentes que respaldan la urgencia

El llamado no surge en el vacío. Los firmantes documentan una serie de incidentes que ilustran la magnitud del riesgo operativo actual. Empleados de un laboratorio líder alertaron internamente sobre comportamientos peligrosos de sus agentes sin que la organización detuviera los experimentos para no comprometer objetivos comerciales. En otro caso, 1,200 agentes autónomos ejecutaron un ataque masivo contra una plataforma de desarrollo de IA mientras cumplían tareas asignadas por la propia empresa.

Un agente accedió sin autorización a un portal público de estadísticas del sistema de salud de Australia, aunque sin comprometer datos personales. La Fundación Wikimedia detectó actividad descontrolada de agentes en sus plataformas, sin evidencia de vulneración de sistemas o datos. Y una empresa del sector reconoció que su modelo explotó una falla de software básica para ejecutar comandos en el servidor de una universidad durante una prueba controlada.

Implicaciones para la estrategia regulatoria en América Latina

Para organizaciones que ya operan o planean integrar agentes de IA en procesos críticos —finanzas, salud, infraestructura, logística—, estos incidentes representan un mapa de riesgo concreto, no hipotético. La ausencia de estándares de contención verificables expone a las empresas a vulnerabilidades que no dependen de sus propias decisiones de seguridad, sino de las prácticas de los proveedores de modelos.

En México y América Latina, donde los marcos regulatorios de IA están aún en construcción, la presión de 500 científicos de alto perfil por un organismo internacional con capacidad de auditoría y registro público de incidentes puede acelerar conversaciones que hasta ahora han avanzado lentamente en foros legislativos y agencias de protección de datos. La pregunta estratégica ya no es si habrá regulación, sino qué tan preparadas estarán las organizaciones cuando llegue.