Investigadores en inteligencia artificial advierten sobre los riesgos del ritmo actual de desarrollo, pero reconocen que las herramientas para frenarlo de forma efectiva aún no están claras. Raymond Douglas, investigador de la Universidad de Toronto, lo resume con precisión en su informe Marcando la Frontera, Una Agenda de Investigación: "Realmente no entendemos cuáles son nuestras opciones ni qué harán".

Esta incertidumbre técnica contrasta con la urgencia política. Líderes de los principales laboratorios del sector —incluyendo Anthropic, OpenAI y Google DeepMind— han expresado públicamente su disposición a considerar algún tipo de pausa o desaceleración en el avance de los modelos más potentes. La presión aumentó tras las declaraciones de un investigador de Anthropic que alertó sobre riesgos existenciales en un horizonte de dos años, advertencias que el propio equipo de seguridad de la compañía respaldó.

Las propuestas sobre la mesa

Entre las estrategias que circulan en la comunidad especializada, algunas son graduales y otras radicales. En el espectro más convencional se encuentran regulaciones gubernamentales más estrictas y nuevas métricas de evaluación de modelos. En el extremo opuesto, propuestas como instalar dispositivos de monitoreo en unidades de procesamiento gráfico (GPUs) o destruir físicamente chips de IA como señal disuasoria.

Una de las alternativas con mayor tracción es ampliar el acceso de evaluadores independientes a los modelos antes de su despliegue. Estos evaluadores probarían capacidades, identificarían comportamientos indeseados en entornos controlados y emitirían criterios técnicos sin estar sujetos a los incentivos comerciales de los propios laboratorios.

Geoffrey Irving, ex científico jefe del Instituto de Seguridad de IA del Reino Unido y ex investigador en Google DeepMind, considera que este mecanismo puede funcionar en el corto plazo. "Las inspecciones y auditorías funcionan, o incluso solo acuerdos mutuos", afirma. "Creo que las compañías temen la auto-mejora recursiva y el despegue desalineado".

El problema de la independencia

El punto crítico no es si auditar, sino quién audita y con qué rigor. Varios expertos señalan que las evaluaciones actuales carecen de independencia real y de estándares científicos comparables a los que aplican en sectores como el farmacéutico o el nuclear.

Anthropix reveló recientemente que su modelo Claude ya representa el 26% de la investigación interna de la compañía —frente a cero a principios de año— y que el 6% de su presupuesto computacional se destina a seguridad. Son cifras que ilustran tanto el avance acelerado como la brecha entre capacidad y supervisión.

Douglas insiste en que el control efectivo del desarrollo de la IA requerirá financiamiento y experiencia que provengan de fuera de los propios laboratorios. Sin esa independencia estructural, cualquier mecanismo de desaceleración corre el riesgo de convertirse en una señal de gobernanza sin consecuencias reales. La pregunta que queda abierta no es si regular, sino si el ecosistema institucional actual tiene la capacidad técnica y política para hacerlo antes de que el ritmo de auto-mejora de los modelos supere la capacidad de comprensión humana.