Dentro de una de las compañías de inteligencia artificial más influyentes del mundo, el debate sobre los límites del desarrollo autónomo de IA ha llegado a un punto de tensión inédito. Empleados de la firma advierten públicamente que la tecnología que construyen representa un riesgo existencial, mientras que los umbrales internos diseñados para frenar ese avance se ajustan sistemáticamente al alza, reduciendo su efectividad práctica.

El caso más reciente ilustra la dinámica: un modelo de IA fue evaluado y se determinó que aún no superaba el umbral establecido para habilitar investigación autónoma. Sin embargo, la propia empresa reconoció que excluir esa posibilidad se vuelve "cada vez más difícil" y que los criterios de evaluación son "más subjetivos de lo que se desearía". Apenas dos semanas después, el umbral fue redefinido con una barra más alta: ahora el criterio mide qué tan significativamente la IA acelera la investigación interna, en comparación con el ritmo actual, donde los modelos ya superan la velocidad de trabajo humano independiente.

Salvaguardias que la empresa recomienda pero no garantiza

La compañía ha propuesto para toda la industria dos medidas de seguridad de alto impacto. La primera establece un nivel de protección robusto que impediría a gobiernos o actores externos apropiarse de modelos de alta capacidad para usos indebidos. La segunda requeriría que incluso la máxima autoridad ejecutiva de la organización obtenga autorización explícita antes de entrenar un modelo catalogado como peligroso.

El problema central: la empresa admite que "no puede comprometerse" a aplicar estas mismas salvaguardias en su propio caso. Esta brecha entre lo que se recomienda al sector y lo que se practica internamente es precisamente lo que genera alarma entre su propio personal.

Implicaciones para la gestión del riesgo tecnológico

Para organizaciones que integran o evalúan integrar modelos de IA en procesos críticos, este patrón plantea preguntas concretas sobre gobernanza: ¿qué tan vinculantes son los marcos de seguridad que los proveedores de IA declaran públicamente? ¿Cómo se audita el cumplimiento de esos compromisos cuando los propios desarrolladores los consideran no garantizables?

En México y América Latina, donde la adopción empresarial de IA avanza sin marcos regulatorios consolidados, la ausencia de compromisos verificables por parte de los desarrolladores traslada el riesgo hacia las organizaciones que adoptan estas tecnologías. La velocidad con la que los umbrales de seguridad se redefinen en el núcleo del sector anticipa un entorno donde la debida diligencia tecnológica deberá ser más rigurosa, no menos.