Renunciar desde adentro para advertir desde afuera es una señal que los mercados rara vez ignoran. David Robinson, exeditor de seguridad en uno de los laboratorios de inteligencia artificial más influyentes del mundo, dejó su cargo y publicó un análisis en el que describe una industria con una confianza excesiva en sus propias capacidades y una tolerancia al riesgo que considera inaceptable.
Con más de 18 años cubriendo la industria tecnológica, Robinson no habla desde la periferia. Su diagnóstico central es que el problema no se resuelve con más regulación: la cultura misma de desarrollo de IA está deteriorada. Señala que la mentalidad de "moverse rápido y romper cosas", que impulsó décadas de crecimiento en Silicon Valley, es incompatible con la escala de consecuencias que hoy tienen los errores en sistemas de inteligencia artificial avanzada.
El argumento de la industria nuclear como referencia
La propuesta de Robinson no es abstracta. Plantea que los laboratorios de IA deberían operar con los mismos estándares de precaución que plantas nucleares o aeropuertos de alta densidad: capas de redundancia, protocolos de fallo controlado y una planificación que asuma que el error humano ocurrirá. La diferencia, argumenta, es que en esas industrias un fallo tiene consecuencias locales y reversibles. En IA, la escala y la velocidad de propagación pueden hacer que un error puntual derive en daños sistémicos.
Esta analogía tiene implicaciones directas para cualquier organización que esté integrando modelos de lenguaje o sistemas de decisión automatizada en procesos críticos. La pregunta relevante no es si la tecnología funciona, sino qué ocurre cuando falla y qué tan preparada está la organización para contener ese fallo.
Lo que cambia para las empresas que adoptan IA
El testimonio de Robinson llega en un momento en que la adopción empresarial de IA generativa se acelera en América Latina, con frecuencia sin marcos de gobernanza equivalentes a la velocidad de implementación. Organizaciones que despliegan estas herramientas en áreas como atención al cliente, análisis financiero o cadena de suministro asumen riesgos que muchas veces no están formalizados en sus estructuras de gestión.
La advertencia de fondo es que el optimismo tecnológico no es una estrategia de riesgo. Las empresas que están construyendo dependencias operativas sobre sistemas de IA sin protocolos de auditoría, reversión y supervisión humana están, en términos prácticos, operando sin red. Eso no es una crítica a la tecnología: es una descripción del estado actual de la gestión del riesgo en la mayoría de las organizaciones que la adoptan.
