Más de 100 expertos en inteligencia artificial han publicado una carta abierta exigiendo condiciones mínimas para que los evaluadores de terceros puedan auditar modelos de IA con objetividad real. El documento, impulsado por el AI Evaluator Forum, señala que sin recursos adecuados, independencia estructural y protecciones contra represalias, la supervisión externa de sistemas avanzados de IA es, en la práctica, inoperante.
El llamado surge en un momento en que la industria debate activamente cómo garantizar que los modelos de lenguaje de gran escala no representen riesgos sistémicos. La carta exige a los proveedores de modelos fundamentales que aseguren a los evaluadores "objetividad científica, transparencia, independencia y protecciones sólidas" — condiciones que, según los firmantes, hoy no están garantizadas de forma consistente en el sector.
El acceso como eje del debate
El detonante inmediato fue una propuesta del CEO de Anthropic, Dario Amodei, de otorgar a evaluadores externos un "acceso similar al de empleados": interacción directa con equipos internos, revisión de datos sensibles y análisis de sistemas no publicados. Este nivel de acceso representaría un cambio significativo respecto al modelo actual, donde los evaluadores trabajan principalmente con versiones públicas o parciales de los modelos.
Sam Altman, de OpenAI, junto a otras figuras de peso en el ecosistema tecnológico, han expresado respaldo a la propuesta. Sin embargo, persisten preguntas sin resolver sobre cómo se seleccionaría a los evaluadores calificados, qué alcance tendría su acceso a tecnologías protegidas por propiedad intelectual y cómo se gestionarían los conflictos de interés.
Implicaciones para la gobernanza corporativa de IA
Conrad Stosz, presidente del AI Evaluator Forum, aclara que la coalición no promueve un modelo regulatorio específico, sino estándares mínimos de operación para quienes realizan auditorías independientes. La distinción es relevante: el debate no es si regular o no la IA, sino si las evaluaciones de seguridad que ya existen tienen las condiciones para producir resultados confiables.
Para las organizaciones que despliegan modelos de IA en procesos críticos — desde análisis financiero hasta toma de decisiones operativas — la credibilidad de esas evaluaciones tiene consecuencias directas en la gestión de riesgo y en la confianza de clientes, reguladores e inversores. Un ecosistema de auditoría débil no solo expone a los desarrolladores de modelos: expone también a quienes los adoptan.
La estandarización de los procesos de evaluación independiente, si avanza, podría convertirse en un requisito de facto para empresas que busquen demostrar debida diligencia en el uso de IA avanzada, especialmente en mercados con regulación emergente como la Unión Europea y, progresivamente, América Latina.
