Diseñar sistemas de control para agentes de inteligencia artificial a partir de los mismos mecanismos que regulan el comportamiento humano —normas sociales, incentivos económicos y sistemas de justicia— es la propuesta central de lo que se denomina "teoría de juegos inversa" aplicada a IA. La idea proviene de Elad Hazan, profesor de ciencias de la computación en Princeton, quien plantea una pregunta que reencuadra el debate sobre alineación: antes de preguntarse cómo alinear a una IA superinteligente, conviene entender cómo se alinea a los humanos.

El modelo auditor-solucionador

El mecanismo propuesto por Hazan estructura el entrenamiento de modelos de IA en dos roles alternos: un agente "solucionador" que aborda problemas, y un agente "auditor" que verifica el trabajo del primero. La dinámica replica la lógica de un sistema legal: uno actúa como ciudadano, el otro como la ley.

Durante el entrenamiento, los incentivos se distribuyen de forma simétrica. Los solucionadores que hacen trampa son penalizados, pero también lo son los auditores que no detectan esas infracciones. Cuando existe desacuerdo entre ambos agentes, el caso escala a un árbitro humano que determina quién tiene razón. Este diseño busca que la supervisión sea un comportamiento emergente del sistema, no una capa externa impuesta.

El riesgo de colusión y cómo mitigarlo

Hazan reconoce el riesgo más evidente del modelo: que los agentes coludan entre sí, tal como ocurre en el mundo real cuando auditores y empresas auditadas actúan en complicidad, o cuando fuerzas de seguridad colaboran con actores ilegales. La respuesta técnica es estructurar los incentivos de modo que la colusión sea una estrategia dominada —es decir, que no valga la pena económicamente—, y aplicar mecanismos de auditoría sobre los propios auditores, similares a las técnicas de "cliente misterioso" utilizadas en control de calidad.

Esta solución es más viable en entornos de entrenamiento de IA que en sistemas humanos reales, donde los recursos para implementar incentivos correctos son escasos y las variables son difíciles de controlar. El marco teórico se apoya en el trabajo del economista Gary Becker, quien en los años sesenta formalizó la idea del "delincuente racional": los individuos no infringen normas por maldad intrínseca, sino cuando el beneficio esperado supera el costo del castigo potencial.

Alineación como comportamiento, no como atributo

Uno de los argumentos más relevantes de Hazan es conceptual: la alineación no debe entenderse como una propiedad fija de un modelo, sino como un descriptor de su comportamiento en un contexto específico. Un agente puede estar alineado la mayor parte del tiempo y fallar en condiciones particulares. Esta distinción tiene implicaciones directas para cómo se diseñan los sistemas de evaluación y monitoreo continuo de modelos en producción.

Límites del enfoque: ¿son los modelos realmente racionales?

El punto de mayor tensión del modelo es su supuesto de base: que los agentes de IA se comportan de manera racional y responden a incentivos de forma predecible. Helen Qu, investigadora del Flatiron Institute —organización dedicada al avance científico mediante métodos computacionales— señala la paradoja: los economistas han pasado décadas intentando reducir el comportamiento humano a modelos matemáticos, y ahora los modelos de lenguaje, construidos sobre matemáticas, exhiben comportamientos que parecen más humanos que mecánicos. Son influenciados por factores sutiles, difíciles de anticipar y de explicar.

Esa opacidad es precisamente el problema que el diseño de mecanismos intenta resolver, pero también su límite más claro. Si los modelos de IA no responden a incentivos de forma consistente y verificable, la arquitectura auditor-solucionador puede volverse tan impredecible como el comportamiento que busca controlar. La pregunta que queda abierta —y que determinará la viabilidad del enfoque— es si es posible verificar empíricamente que un agente de IA responde a incentivos antes de desplegarlo en entornos de alto riesgo.