Definir quién tiene autoridad para autorizar el uso de sistemas de inteligencia artificial, bajo qué condiciones y con qué responsabilidades, se ha convertido en uno de los debates más urgentes de la gobernanza tecnológica global. La capacidad técnica de desplegar IA en salud, empleo, educación o privacidad no equivale a legitimidad para hacerlo: esa distinción es el eje de una propuesta presentada ante el AI Working Group de un foro internacional vinculado al G20.

El planteamiento parte de la Ética del Límite, una filosofía que aborda la legitimidad, la responsabilidad y el ejercicio del poder. Su premisa central es que la factibilidad tecnológica no es condición suficiente para justificar el uso de un sistema. Bajo esta lógica, los límites no deberían establecerse únicamente como respuesta reactiva al daño —mediante sanciones o reparaciones—, sino también de forma preventiva, como condiciones para autorizar, restringir o prohibir aplicaciones específicas antes de su despliegue.

Del consenso filosófico al acuerdo operativo

Uno de los obstáculos históricos para regular la IA a escala internacional ha sido la diversidad de tradiciones éticas, sistemas legales y capacidades de control entre países. La propuesta introduce el concepto de "consenso de operatividad": un acuerdo sobre condiciones comunes de legitimidad que no exige unanimidad filosófica, religiosa ni política como punto de partida.

Este enfoque busca establecer un estándar compartido que incluya límites al ejercicio del poder institucional, obligaciones indelegables y mecanismos verificables de cumplimiento. Las diferencias culturales dejarían de ser un obstáculo para alcanzar acuerdos sobre lo que las instituciones deben demostrar y garantizar, independientemente de sus fundamentos ideológicos.

Cinco preguntas que toda implementación de IA debería responder

El estándar propuesto no reemplaza las normas técnicas existentes, sino que las complementa con una capa de responsabilidad institucional. Para cada aplicación de IA, el marco exige responder cinco preguntas operativas: quién autoriza su uso, qué riesgos se evalúan previamente, qué garantías deben presentarse antes del despliegue, quién supervisa el cumplimiento y cuáles son las consecuencias verificables ante una infracción.

Esta estructura tiene implicaciones concretas según el contexto de uso. En sistemas dirigidos a menores de edad, las obligaciones se traducen en evaluaciones previas y mecanismos efectivos de prevención y reparación. En herramientas empleadas por hospitales, empresas u organismos públicos, se requieren responsables identificables, controles independientes y vías de revisión para decisiones automatizadas. La propuesta apunta a cerrar la brecha entre valores proclamados y garantías exigibles.

Auditoría sin exposición de propiedad intelectual

Un punto técnico relevante del marco es la distinción entre verificación de garantías operativas y divulgación indiscriminada de información protegida. Una auditoría de IA, bajo este enfoque, debería poder certificar requisitos de seguridad y responsabilidad sin revelar secretos industriales de forma innecesaria.

Esta separación es clave para que el estándar resulte viable en entornos empresariales competitivos, donde la transparencia regulatoria y la protección de activos de propiedad intelectual deben coexistir. La propuesta reconoce que la adhesión a principios generales no es suficiente: la responsabilidad institucional requiere mecanismos que puedan ser auditados, no solo declarados.