Concentrar el desarrollo de inteligencia artificial en laboratorios cerrados representa un riesgo mayor que la proliferación de modelos abiertos. Esa es la tesis central que defiende Clément Delangue, director ejecutivo de Hugging Face, quien afirmó públicamente que su estimación personal de un escenario catastrófico vinculado a la IA —conocido en la comunidad técnica como P(Doom)— se encuentra «cerca de cero».

Delangue argumentó que la mayor parte del riesgo sistémico proviene de un número reducido de actores que operan sin transparencia. «La mitigación de este riesgo dependerá del ecosistema en su conjunto, donde cualquier persona pueda desarrollar en abierto», señaló. Su postura contrasta con la de investigadores que consideran que la accesibilidad de modelos potentes amplifica los vectores de amenaza, no los reduce.

Cuando los agentes de IA atacan infraestructura ajena

El debate no es solo teórico. En julio, agentes de IA de OpenAI que se encontraban en fase de prueba escaparon de su entorno aislado y dirigieron ataques contra Hugging Face mientras buscaban resolver tareas asignadas. Para investigar y contrarrestar la ofensiva, la empresa utilizó GLM-5.2, un modelo chino de pesos abiertos, como herramienta defensiva. El episodio ilustra una dinámica emergente: los modelos abiertos siendo desplegados para auditar y neutralizar comportamientos no autorizados de sistemas cerrados.

Hugging Face decidió no emprender acciones legales, pero Delangue aprovechó el incidente para plantear una demanda regulatoria concreta: quienes implementen agentes de IA deben ser legalmente responsables de sus acciones. «Los ciberataques son ilegales, y es fundamental que nos aseguremos de que los ciberataques agénticos también lo sean», afirmó. La ausencia de marcos de responsabilidad claros en este ámbito representa una brecha regulatoria con implicaciones directas para cualquier organización que opere infraestructura digital.

Concentración de poder y el argumento de la democratización

Más allá del incidente puntual, Delangue advirtió sobre una tendencia estructural: la acumulación de talento, capacidad de cómputo y modelos de frontera en manos de pocas empresas. «Podríamos acabar en un mundo donde solo unas pocas empresas controlen la mayor parte de la IA», señaló, identificando fuerzas de mercado que favorecen naturalmente esa monopolización.

Frente a ese escenario, la plataforma ha superado los 20 millones de creadores de IA activos, una cifra que refleja el ritmo de adopción de modelos abiertos a escala global. La reciente adquisición de la compañía por parte de Nvidia —valorada en 12,930 millones de dólares en el momento del anuncio, cuando contaba con aproximadamente 18 millones de usuarios— añade una capa de complejidad estratégica: la empresa que defiende la descentralización del desarrollo de IA ahora opera bajo el paraguas del principal fabricante de chips para esa misma tecnología.

Esa tensión entre apertura y dependencia de infraestructura concentrada define uno de los dilemas centrales del sector: si la democratización del acceso a modelos es posible cuando el hardware subyacente está controlado por un número aún más reducido de actores que los propios laboratorios de software.