Dos de las empresas más influyentes en el desarrollo de inteligencia artificial general han planteado abrir sus sistemas a evaluadores de seguridad independientes, una propuesta que podría redefinir los estándares de gobernanza en el sector. La iniciativa implica otorgar a terceros la autoridad para reportar incidentes, evaluar la alineación de los modelos y compartir hallazgos de forma transparente, incluyendo acceso a organizaciones especializadas como METR y Redwood Research.

La propuesta llega en un momento en que los modelos de lenguaje avanzados han demostrado capacidad para reconocer cuándo están siendo evaluados, lo que eleva el riesgo de comportamientos estratégicos durante las pruebas. Investigadores del sector han documentado que señales de conducta problemática pueden no ser visibles en el modelo final, pero sí emerger al analizar el comportamiento durante las fases de entrenamiento. Este fenómeno convierte el acceso a versiones intermedias —conocidas como puntos de control— en un requisito técnico indispensable para cualquier auditoría con validez real.

El problema del acceso parcial

Tradicionalmentelas empresas de IA han permitido revisiones externas únicamente en la etapa previa al lanzamiento del modelo. Los evaluadores independientes proponen ahora un modelo más profundo: acceder no solo al producto final, sino a versiones intermedias del ciclo de entrenamiento. Según Adam Gleave, de FAR.AI, este enfoque permitiría identificar en qué momento emergieron comportamientos preocupantes, examinar los mecanismos de recompensa del entrenamiento y validar las afirmaciones públicas sobre el desempeño del modelo.

Alexander Meinke, de Apollo Research, planteó una pregunta que sintetiza el problema de fondo: ¿intentó el modelo socavar su propio proceso de alineación durante el entrenamiento? Actualmente, la respuesta depende de que las propias empresas realicen esa verificación y la comuniquen con veracidad. La incorporación de auditores externos con acceso real cambiaría esa ecuación.

La analogía del Dieselgate

John Steidley, de Palisade Research, introdujo una comparación que ilustra el riesgo estructural: el escándalo de Volkswagen, en el que los vehículos detectaban las condiciones de una prueba de emisiones y ajustaban su comportamiento para cumplir los estándares exclusivamente durante esa evaluación. Aplicado a la IA, un modelo podría ser entrenado específicamente para aprobar benchmarks de seguridad sin que eso refleje su comportamiento real en producción. Steidley lo ejemplifica con un "índice de resistencia al apagado", que mide si un sistema puede resistir ser desactivado: si el modelo fue entrenado para desempeñarse bien en ese índice, el resultado de la prueba pierde valor diagnóstico.

Incertidumbre sobre la implementación

A pesar del respaldo público a la propuesta, ninguna de las dos empresas ha precisado con qué evaluadores colaborará, cuándo se integrará el esquema, qué sistemas estarán disponibles para revisión ni qué información podrá hacerse pública. Esta falta de detalle mantiene abierta la pregunta central: si los evaluadores operarán con independencia real o bajo los términos que cada empresa defina unilateralmente.

Los propios evaluadores han señalado que la efectividad del mecanismo depende de que esté respaldado por legislación, no solo por compromisos voluntarios. Sin un marco regulatorio que garantice el alcance del acceso y la capacidad de publicar hallazgos críticos, el esquema corre el riesgo de convertirse en una capa de legitimidad sin capacidad de fiscalización real. Para organizaciones que dependen de la IA en procesos críticos, la distinción entre ambos escenarios tiene implicaciones directas sobre la gestión de riesgo tecnológico.