Investigadores en Costa Rica avanzan en la construcción de un marco formal para regular el uso de inteligencia artificial en organizaciones públicas y privadas, en un contexto donde la adopción de estas tecnologías supera la capacidad institucional de supervisarlas.
Una investigación desarrollada en el Observatorio Nacional de Investigación en Ciencias Económicas de la Universidad Hispanoamericana propone un Modelo Nacional de Gobernanza Responsable de IA que establece reglas, controles y mecanismos de supervisión aplicables a cualquier entidad que opere sistemas automatizados de toma de decisiones. El trabajo, titulado Hacia una inteligencia artificial confiable en Costa Rica: gobernanza, riesgos y modelo operativo para entidades públicas y privadas, parte de una premisa central: el riesgo no está en adoptar inteligencia artificial, sino en hacerlo sin condiciones claras que protejan la privacidad, la equidad y la confianza de los usuarios.
Cuatro niveles de riesgo como eje regulatorio
El modelo clasifica los usos de IA en cuatro categorías: bajo, medio, alto e inaceptable. Esta taxonomía determina el nivel de control exigido a cada sistema.
Los sistemas de bajo riesgo operarían con controles básicos, mientras que los de riesgo medio requerirían mayor monitoreo y transparencia. Los de alto riesgo —aquellos vinculados a crédito, seguros, salud, educación, empleo o beneficios públicos— deberían someterse a evaluaciones de impacto, validación independiente y auditorías periódicas. Los usos clasificados como inaceptables quedarían prohibidos.
Esta diferenciación es relevante desde una perspectiva operativa: un sistema de recomendación interna no representa el mismo perfil de riesgo que un modelo que aprueba créditos o determina elegibilidad para beneficios sociales. La propuesta sugiere que las organizaciones clasifiquen sus sistemas considerando materialidad, impacto en derechos, criticidad operativa, sensibilidad de los datos y potencial de daño.
Los riesgos de una adopción sin marco institucional
El documento identifica los principales problemas derivados de una implementación fragmentada o sin gobernanza: sesgos algorítmicos, uso indebido de datos personales, decisiones automatizadas sin supervisión humana, dependencia de proveedores tecnológicos, vulnerabilidades en ciberseguridad, errores en sistemas generativos y daños reputacionales o regulatorios.
Este diagnóstico refleja una tendencia global. Organismos como la OCDE y la Unión Europea han señalado que la ausencia de marcos de gobernanza en IA genera asimetrías de responsabilidad que afectan tanto a los usuarios finales como a las organizaciones que despliegan estas tecnologías.
Diez componentes como base operativa
La propuesta estructura el modelo en diez componentes clave que funcionan como base para cualquier organización que implemente IA. Aunque el documento original no detalla todos los componentes en su versión pública disponible, el enfoque apunta a estandarizar prácticas de auditoría, transparencia algorítmica y rendición de cuentas.
Para los sectores financiero, de salud y de servicios públicos —donde las decisiones automatizadas tienen consecuencias directas sobre derechos individuales—, contar con este tipo de marcos deja de ser una opción estratégica para convertirse en un requisito de continuidad operativa y cumplimiento regulatorio. La propuesta costarricense llega en un momento en que varios países de América Latina discuten legislación específica sobre IA, lo que posiciona este tipo de iniciativas académicas como insumos directos para el diseño de política pública.
