Determinar quién tiene autoridad para autorizar el uso de sistemas de inteligencia artificial, bajo qué condiciones y con qué responsabilidades, se ha convertido en uno de los debates más urgentes de la gobernanza tecnológica global. La capacidad técnica para implementar IA en sectores como salud, empleo, educación o privacidad no garantiza la legitimidad de su uso. Esta distinción es el núcleo de una propuesta presentada ante el AI Working Group de un foro internacional vinculado al G20.
De la ética declarativa a la responsabilidad operativa
La propuesta se fundamenta en la Ética del Límite, una filosofía que aborda la legitimidad, la responsabilidad y el ejercicio del poder. Su premisa central sostiene que la factibilidad tecnológica no es condición suficiente para justificar el despliegue de un sistema. Bajo este enfoque, los límites no deberían establecerse únicamente como respuesta reactiva al daño —a través de sanciones o reparaciones— sino también de forma preventiva, como condiciones de autorización antes de que los sistemas entren en operación.
Uno de los obstáculos históricos para regular la IA a escala internacional ha sido la diversidad de tradiciones éticas, sistemas legales y capacidades de control entre países. La propuesta introduce el concepto de "consenso de operatividad": un acuerdo sobre condiciones comunes de legitimidad que no exige unanimidad filosófica, religiosa ni política como punto de partida. Las diferencias culturales dejarían de ser un impedimento para alcanzar acuerdos sobre lo que las instituciones deben demostrar y garantizar, independientemente de sus fundamentos ideológicos.
Cinco preguntas que definen el estándar
El marco no sustituye las normas técnicas existentes, sino que las complementa con una capa de responsabilidad institucional. Para cada aplicación de IA, el estándar exige responder cinco preguntas operativas: quién autoriza su uso, qué riesgos se evalúan previamente, qué garantías deben presentarse antes del despliegue, quién supervisa el cumplimiento y cuáles son las consecuencias verificables ante una infracción.
Esta estructura tiene implicaciones concretas según el contexto de uso. En sistemas dirigidos a menores de edad, las obligaciones se traducen en evaluaciones previas y mecanismos efectivos de prevención y reparación. En herramientas empleadas por hospitales, empresas u organismos públicos, se requieren responsables identificables, controles independientes y vías de revisión para decisiones automatizadas. El objetivo es cerrar la brecha entre los valores proclamados y las garantías exigibles.
Auditoría sin exposición de activos protegidos
Un aspecto técnico relevante del marco es la distinción entre la verificación de garantías operativas y la divulgación indiscriminada de información protegida. Una auditoría de IA, bajo este enfoque, debería certificar requisitos de seguridad y responsabilidad sin revelar secretos industriales de forma innecesaria.
Esta separación resulta determinante para que el estándar sea viable en entornos empresariales competitivos, donde la transparencia regulatoria y la protección de activos de propiedad intelectual deben coexistir. La propuesta reconoce que la adhesión a principios generales no es suficiente: la responsabilidad institucional requiere mecanismos que puedan ser auditados y no solo declarados. Para organizaciones que operan con IA en múltiples jurisdicciones, contar con un estándar de este tipo reduce la incertidumbre regulatoria y establece una base común para la rendición de cuentas transfronteriza.
