Administración pública adopta marco de controles para inteligencia artificial: riesgos y oportunidades

Guía de regulación establece protocolos preventivos para mitigar vulnerabilidades en sistemas de IA en organismos estatales

La administración pública nacional ha formalizado un marco regulatorio para la incorporación de inteligencia artificial en organismos estatales, mediante una guía que prioriza un enfoque preventivo basado en riesgos. El documento, oficializado recientemente, establece protocolos específicos para dos modalidades de uso: herramientas generativas utilizadas por agentes públicos de forma individual,…

La administración pública nacional ha formalizado un marco regulatorio para la incorporación de inteligencia artificial en organismos estatales, mediante una guía que prioriza un enfoque preventivo basado en riesgos. El documento, oficializado recientemente, establece protocolos específicos para dos modalidades de uso: herramientas generativas utilizadas por agentes públicos de forma individual, y sistemas de IA integrados en procesos organizacionales que requieren entrenamiento previo de algoritmos.

El marco identifica cuatro categorías críticas de riesgo que requieren control: la divulgación no autorizada de información confidencial al utilizar plataformas de acceso público o servicios en la nube; la exposición inadecuada de datos personales de ciudadanos, generando incumplimientos normativos en protección de datos; la dependencia tecnológica de proveedores externos, comprometiendo la soberanía y continuidad operativa; y la falta de criterios de validación para verificar la calidad y veracidad de resultados generados por sistemas de IA, impactando directamente en la toma de decisiones institucionales.

Para el primer escenario—uso individual de herramientas—la mitigación depende de políticas institucionales claras y capacitación del personal. Para el segundo—integración sistémica—se requieren controles específicos en cada fase del ciclo de vida del desarrollo, desde análisis de factibilidad hasta pruebas previas a producción. Cada entidad debe contar con una política institucional que regule tanto el uso individual como la integración de estas tecnologías, alineando la adopción de IA con objetivos institucionales, integridad y transparencia.

Este enfoque integral reconoce que la inteligencia artificial presenta oportunidades significativas para mejorar eficiencia y calidad en la gestión pública, pero requiere mecanismos de control proporcionales a los riesgos identificados. La estrategia busca fortalecer la rendición de cuentas y fomentar un uso ético y responsable de estas tecnologías en beneficio de la ciudadanía, manteniendo la soberanía institucional y la protección de información sensible.