Definir qué decisiones nunca deben delegarse a un algoritmo se ha convertido en uno de los debates más urgentes del entorno regulatorio global. Mientras los sistemas de inteligencia artificial ganan terreno en áreas como el empleo, el acceso a servicios públicos y el ejercicio de derechos ciudadanos, crece la presión institucional para establecer límites normativos que no dependan ni del temor a la tecnología ni de una confianza acrítica en ella.

En México, la Iglesia católica ha tomado posición formal en este debate a través de Desde la Fe, su medio de comunicación institucional. El pronunciamiento retoma principios de la encíclica Magnifica Humanitas, del papa León XIV, para plantear que la responsabilidad humana no puede diluirse detrás de un sistema automatizado. El documento señala explícitamente que cualquier marco regulatorio debe identificar quién diseñó un sistema, quién lo utilizó, quién decidió asignarle una tarea específica y quién debe rendir cuentas cuando ese sistema causa daño.

El fondo del debate: autonomía algorítmica vs. responsabilidad humana

El argumento central no es tecnológico, sino de gobernanza. A medida que los modelos de IA se vuelven más sofisticados, el riesgo no es solo técnico —sesgos, errores, opacidad— sino estructural: la posibilidad de que la capacidad de discernir y asumir consecuencias migre progresivamente hacia sistemas que no pueden ser responsables en sentido legal ni moral.

Este desplazamiento tiene implicaciones directas para sectores como finanzas, salud, justicia y recursos humanos, donde las decisiones algorítmicas ya afectan a millones de personas. La pregunta que articula el pronunciamiento —¿quién responde cuando un sistema causa daño?— es precisamente la que los marcos regulatorios existentes en la mayoría de los países, incluido México, aún no responden con claridad.

Cinco preguntas que deberían guiar cualquier política de IA

El documento propone una agenda de preguntas concretas que, más allá de su origen institucional, representan un mapa útil para cualquier organización que esté diseñando políticas internas de uso de inteligencia artificial:

  • ¿Qué decisiones nunca deberían quedar exclusivamente en manos de un algoritmo?
  • ¿Quién responde cuando un sistema automatizado causa daño?
  • ¿Cómo se protege la privacidad y los datos personales de los usuarios?
  • ¿Qué mecanismos existen ante riesgos para el empleo, los derechos de autor o la seguridad?
  • ¿Cómo garantizar que las poblaciones más vulnerables no sean las primeras afectadas?

Estas preguntas no son retóricas. En el contexto empresarial, representan riesgos legales, reputacionales y operativos concretos para cualquier organización que adopte IA sin un marco de gobernanza explícito.

Por qué el debate regulatorio importa ahora

México no cuenta aún con una legislación integral sobre inteligencia artificial. Esa ausencia normativa es, al mismo tiempo, una ventana de oportunidad y un riesgo: las empresas que operen sin estándares propios quedarán expuestas cuando la regulación llegue —y llegará— con requisitos de trazabilidad, explicabilidad y rendición de cuentas que podrían ser costosos de implementar de forma retroactiva.

El avance científico y tecnológico ha demostrado históricamente que los mayores daños no provienen de la tecnología en sí, sino de su adopción sin propósito claro ni estructura de responsabilidad. Construir esa estructura hoy, antes de que la regulación la imponga, es una decisión estratégica, no solo ética.