Administración pública define controles para mitigar riesgos de inteligencia artificial

Guía de regulación establece marco preventivo para uso responsable de IA en organismos estatales

La administración pública nacional ha formalizado un marco regulatorio para el uso de inteligencia artificial en organismos estatales, enfocado en un enfoque preventivo basado en riesgos. El documento, oficializado mediante resolución administrativa, busca asegurar que las iniciativas de IA se alineen con objetivos institucionales y principios de integridad y transparencia.…

La administración pública nacional ha formalizado un marco regulatorio para el uso de inteligencia artificial en organismos estatales, enfocado en un enfoque preventivo basado en riesgos. El documento, oficializado mediante resolución administrativa, busca asegurar que las iniciativas de IA se alineen con objetivos institucionales y principios de integridad y transparencia.

El análisis que fundamentó esta regulación identificó múltiples proyectos de IA en curso dentro de la administración pública, revelando la necesidad de fortalecer mecanismos de control para mitigar riesgos asociados con la adopción de estas tecnologías. La guía reconoce que la IA presenta oportunidades significativas para mejorar eficiencia y calidad en la gestión pública, pero también advierte sobre desafíos inherentes a su implementación. El marco propuesto refuerza la rendición de cuentas y transparencia, promoviendo controles proporcionales a los riesgos identificados en cada fase del ciclo de vida de estos sistemas.

La regulación distingue dos modalidades principales de uso: el uso individual de herramientas generativas por agentes públicos, donde la IA actúa como apoyo sin integrarse a sistemas institucionales, y sistemas de inteligencia artificial incorporados a procesos, aplicaciones o decisiones organizacionales, que requieren entrenamiento previo de algoritmos. En el primer escenario, la mitigación de riesgos depende de políticas institucionales y capacitación del personal. En el segundo, se deben implementar controles específicos a lo largo del ciclo de desarrollo, desde análisis de factibilidad hasta pruebas previas a producción.

Cada entidad debe contar con una política clara que regule el uso de estas tecnologías por sus agentes, tanto en modalidad individual como en integración a sistemas institucionales. Los riesgos principales a mitigar incluyen la divulgación no autorizada de información confidencial o sensible a través de herramientas de IA, especialmente al utilizar plataformas de acceso público o servicios en la nube; la exposición y tratamiento inadecuado de datos personales de ciudadanos, lo que podría resultar en incumplimientos a normativa sobre protección de datos; la dependencia tecnológica de proveedores externos, que representa riesgo para soberanía y continuidad operativa de servicios públicos; y la falta de criterios claros para validar calidad y veracidad de resultados generados por sistemas de inteligencia artificial, lo que podría impactar negativamente en toma de decisiones institucionales.

Este enfoque integral busca proteger la integridad de la información pública y fomentar un uso ético y responsable de inteligencia artificial en beneficio de la ciudadanía. Para directivos, esto implica que cualquier iniciativa de IA dentro de organismos públicos debe someterse a evaluación de riesgos documentada, con políticas claras de gobernanza y capacitación del personal. La regulación establece un precedente importante sobre cómo las instituciones deben gestionar la adopción de tecnologías emergentes, equilibrando innovación con responsabilidad operativa y protección de datos.