Pocas voces tienen el peso académico y moral para cuestionar el rumbo de una tecnología desde adentro. Geoffrey Hinton, Premio Nobel y pionero en redes neuronales desde la década de 1970, ha escalado sus advertencias al punto de sugerir que la humanidad podría haber estado mejor sin inteligencia artificial. No es una postura nostálgica: es una evaluación de riesgo formulada por quien contribuyó a construir los fundamentos técnicos sobre los que opera la industria hoy.

Hinton anticipa que en los próximos doce a veinticuatro meses podría ocurrir un incidente de gran escala vinculado a sistemas de IA, comparable en impacto a Chernobyl, aunque no necesariamente nuclear. Su escenario más probable: un ataque a infraestructura eléctrica o la parálisis del sistema financiero global. Esta clase de evento, señala, sería el catalizador que obligaría a los gobiernos a tomar en serio la regulación de la tecnología, algo que hasta ahora ha avanzado de forma fragmentada y reactiva.

Competencia de mercado versus gestión del riesgo

El diagnóstico de Hinton sobre la industria es directo: las principales empresas de IA están lanzando modelos avanzados en una carrera por el dominio del mercado, sin que la velocidad de despliegue esté acompañada por mecanismos de evaluación independiente proporcionales al riesgo. Desde su perspectiva, los líderes de estas organizaciones conocen los peligros, pero los subordinan a los incentivos económicos y competitivos.

Esta dinámica tiene implicaciones concretas para cualquier organización que esté integrando IA en procesos críticos. La ausencia de estándares de prueba obligatorios y evaluaciones independientes significa que las empresas adoptan tecnología cuyo comportamiento en escenarios extremos no ha sido verificado por terceros. El riesgo operativo y reputacional de esa brecha recae, en última instancia, en quienes la implementan, no en quienes la desarrollan.

Dos futuros posibles para la economía global

Hinton no descarta un escenario positivo. Si los riesgos de la IA se gestionan adecuadamente, proyecta la posibilidad de una "abundancia radical", un estado en el que la productividad aumenta de forma generalizada y los beneficios se distribuyen ampliamente. El escenario alternativo, que considera igualmente probable, es la concentración de esos beneficios en pocas manos, desempleo masivo estructural y una fractura cultural y económica de difícil reversión.

La distinción entre ambos futuros no depende de la tecnología en sí, sino de las decisiones de gobernanza que se tomen en los próximos años. Hinton respalda un marco regulatorio que incluya pruebas obligatorias de modelos de IA y evaluaciones independientes antes del despliegue, un enfoque que ya cuenta con el respaldo de más de 32 países. La posición contraria, representada por la autorregulación corporativa, es la que predomina actualmente en el mercado más grande del sector.

El documental como plataforma de alerta

Hinton ha articulado estas posiciones en el contexto del documental AI: Probablemente No Hay Nada de Qué Preocuparse, producción en la que también participa Demis Hassabis, su ex colega en Google. La elección del formato no es casual: Hinton reconoce que su capital más valioso en este momento es su reputación, y que tiene la obligación de utilizarla para que las advertencias sean escuchadas fuera de los círculos académicos.

Después de cuatro décadas construyendo los fundamentos de la IA y de abandonar Google en 2023 precisamente para hablar con libertad sobre sus riesgos, Hinton representa una perspectiva que el mercado tiende a ignorar cuando los trimestres son favorables. La pregunta relevante para cualquier organización no es si sus advertencias son exageradas, sino qué tan preparada está para operar si uno de esos escenarios de riesgo sistémico se materializa.