Administración pública regula uso de IA con enfoque preventivo basado en riesgos

Guía de controles establece marcos para integración responsable de inteligencia artificial en organismos estatales

La administración pública nacional ha formalizado un marco regulatorio para el uso de inteligencia artificial en organismos estatales, mediante una guía de controles que prioriza un enfoque preventivo basado en riesgos. El documento, oficializado recientemente, busca asegurar que las iniciativas de IA se alineen con objetivos institucionales y principios de…

La administración pública nacional ha formalizado un marco regulatorio para el uso de inteligencia artificial en organismos estatales, mediante una guía de controles que prioriza un enfoque preventivo basado en riesgos. El documento, oficializado recientemente, busca asegurar que las iniciativas de IA se alineen con objetivos institucionales y principios de integridad y transparencia.

El análisis que fundamentó esta herramienta reveló múltiples proyectos de IA en curso en diversas áreas de la administración pública, junto con la necesidad crítica de fortalecer mecanismos de control. La guía reconoce que la inteligencia artificial presenta oportunidades significativas para mejorar eficiencia y calidad en la gestión pública, aunque advierte sobre desafíos inherentes a su implementación. Los controles internos propuestos deben conformarse con normativa vigente y principios de gestión pública responsable, reforzando rendición de cuentas y transparencia mediante controles proporcionales a riesgos identificados en cada fase del ciclo de vida de estos sistemas.

La regulación distingue dos modalidades operativas: el uso individual de herramientas generativas por agentes públicos, donde la IA actúa como apoyo sin integrarse a sistemas institucionales, y la incorporación de sistemas de inteligencia artificial a procesos, aplicaciones o decisiones organizacionales, que requiere entrenamiento previo de algoritmos. En el primer escenario, la mitigación de riesgos depende de políticas institucionales y capacitación del personal. En el segundo, se requieren controles específicos desde análisis de factibilidad hasta pruebas previas a producción.

Cada entidad debe desarrollar una política clara que regule el uso de estas tecnologías por sus agentes, tanto en aplicaciones individuales como en integración a sistemas institucionales. Entre los riesgos prioritarios identificados figuran: divulgación no autorizada de información confidencial o sensible mediante herramientas de IA, especialmente en plataformas de acceso público; exposición y tratamiento inadecuado de datos personales de ciudadanos con potencial incumplimiento de normativa de protección de datos; dependencia tecnológica de proveedores externos que afecta soberanía y continuidad operativa; y falta de criterios claros para validar calidad y veracidad de resultados generados por sistemas de inteligencia artificial, impactando negativamente en toma de decisiones institucionales.

Este enfoque integral busca proteger integridad de información pública mientras fomenta uso ético y responsable de inteligencia artificial en beneficio de la ciudadanía y la eficiencia operativa del Estado.