Sam Altman, director ejecutivo de OpenAI, ha articulado con claridad los dos vectores de riesgo que considera más peligrosos para el desarrollo de la inteligencia artificial: la pérdida de control sobre los sistemas de IA y la concentración de ese control en una sola entidad. Ambos escenarios, según Altman, conducen a resultados igualmente adversos para la sociedad.

El primer riesgo apunta a un futuro donde los sistemas de IA operen de forma autónoma, desvinculados de los intereses humanos. El segundo —y quizás más inmediato— describe un escenario donde una empresa o gobierno utiliza IA de alta capacidad para imponer su visión del mundo, generando estructuras de dominación difíciles de revertir. Esta segunda advertencia cobra especial relevancia en un contexto donde la carrera tecnológica entre laboratorios de IA se intensifica y los incentivos competitivos presionan hacia la velocidad por encima de la cautela.

Del despliegue al entrenamiento: un cambio de paradigma en seguridad

Uno de los puntos más sustanciales del análisis de Altman es el reconocimiento de que los marcos de seguridad anteriores —centrados en el despliegue de modelos ya terminados— resultan insuficientes. El riesgo, argumenta, se concentra ahora en las fases de desarrollo y entrenamiento, antes de que el modelo llegue al mercado.

En respuesta a esto, OpenAI ha comenzado a establecer "casos de seguridad explícitos" previos a cada fase de entrenamiento. Este enfoque implica documentar y validar los supuestos de seguridad antes de escalar capacidades, no después. Para organizaciones que evalúan la adopción de modelos de IA en procesos críticos, este cambio metodológico tiene implicaciones directas: la trazabilidad del proceso de entrenamiento se convierte en un criterio de evaluación tan relevante como el rendimiento del modelo.

Responsabilidad sin esperar regulación

En el debate sobre gobernanza, Altman se distancia de la postura de Dario Amodei, director ejecutivo de Anthropic, quien ha propuesto una pausa coordinada en el avance de la IA bajo un marco legal formal. Altman sostiene que cada laboratorio debe asumir responsabilidad ética de forma proactiva, sin subordinar la acción a la intervención regulatoria.

Esta posición tiene implicaciones prácticas para empresas que integran IA en sus operaciones: la ausencia de regulación consolidada no elimina el riesgo reputacional ni operativo de trabajar con proveedores que no demuestren estándares verificables de seguridad. La tendencia hacia auditorías externas —que compañías como Anthropic ya están adoptando— señala que la transparencia en los procesos de desarrollo se perfila como un diferenciador competitivo y un requisito de confianza institucional.

En mercados como México y América Latina, donde la adopción de IA avanza a ritmo acelerado pero los marcos regulatorios aún se consolidan, la capacidad de evaluar críticamente las prácticas de seguridad de los proveedores de IA representa una ventaja estratégica para las.