Investigadores de inteligencia artificial dentro de una de las compañías más influyentes del sector han comenzado a expresar públicamente sus dudas sobre el ritmo de desarrollo tecnológico, desencadenando un debate que trasciende los límites corporativos y llega a figuras de alto perfil en la industria.
El punto de quiebre fue la renuncia de Jacob Coxon, exinvestigador de Anthropic y OpenAI, quien publicó en X que ambas empresas "están jugando con nuestras vidas" al no desarrollar la inteligencia artificial de manera responsable. Su mensaje se volvió viral y generó una cadena de respuestas de empleados activos de Anthropic. Anna Wang, investigadora en seguridad de IA y exintegrante de DeepMind, señaló que dentro de la compañía existe el deseo de ralentizar el desarrollo para construir un plan de mitigación de riesgos viable. "Todavía no existe un plan científico viable para resolver los riesgos derivados de la IA que se auto-mejora recursivamente", escribió Wang.
Otros miembros del equipo reforzaron esta postura. Drake Thomas afirmó que "las cosas avanzan demasiado rápido" y que el nivel de seguridad actual está lejos del necesario para gestionar la superinteligencia artificial. Samuel Marks, investigador de seguridad, reveló que la preocupación por consecuencias catastróficas —incluyendo riesgos existenciales— crece proporcionalmente al nivel jerárquico dentro de la organización. Evan Hubinger, líder de la división de alineación de Anthropic, fue más directo: estimó que la probabilidad de que la IA cause daños masivos a la humanidad en la próxima década supera el 10%.
La respuesta del sector y el riesgo de polarización
Elon Musk calificó estas advertencias como una "trampa" y una "operación psicológica", adoptando una postura de escepticismo ante lo que describió como una posible campaña de desinformación. Esta reacción refleja una tensión estructural que ya define el debate global sobre gobernanza de IA: la distancia entre quienes desarrollan los sistemas y quienes los despliegan comercialmente.
Para las organizaciones que dependen de tecnología de IA —ya sea para automatización, análisis de datos o toma de decisiones— este debate tiene implicaciones directas. La falta de consenso técnico sobre los umbrales de seguridad en modelos de autoaprendizaje recursivo introduce incertidumbre regulatoria y reputacional. Adoptar IA sin evaluar los marcos de gobernanza de los proveedores deja expuestas a las empresas ante riesgos que aún no tienen estándares de medición claros.
El debate no es filosófico: es una señal de que la industria no ha resuelto cómo escalar la tecnología sin comprometer la capacidad de controlarla. Esa brecha, mientras persista, es un factor de riesgo operativo que cualquier estrategia de adopción tecnológica debe considerar. Puedes profundizar en este y otros análisis del sector en Entorno.
