Especialistas alertan por la adopción de modelos de IA chinos en sectores sensibles
Adopción de modelos de inteligencia artificial chinos en sectores sensibles: una alerta estratégica La expansión de los modelos de inteligencia artificial desarrollados en China ha generado inquietudes en Europa y América Latina, donde expertos advierten sobre los riesgos de gobernanza y dependencia estratégica que conlleva su adopción en sectores críticos.…
Adopción de modelos de inteligencia artificial chinos en sectores sensibles: una alerta estratégica
La expansión de los modelos de inteligencia artificial desarrollados en China ha generado inquietudes en Europa y América Latina, donde expertos advierten sobre los riesgos de gobernanza y dependencia estratégica que conlleva su adopción en sectores críticos. Patrick Upmann, fundador de AIGN.global y especialista en gobernanza de IA, destaca la opacidad que rodea a estos modelos como una de las principales preocupaciones.
Cuando una empresa decide incorporar un modelo de IA, se enfrenta a un entorno de gobernanza poco claro, que incluye lógica de datos, reglas de alineamiento, filtros de seguridad, mecanismos de actualización y restricciones políticas. Esta falta de transparencia puede llevar a que las organizaciones deleguen parte de su juicio institucional a una infraestructura externa, lo que representa un riesgo considerable.
Para las empresas en Europa y América Latina que aplican inteligencia artificial en áreas como la administración pública, finanzas, infraestructura, educación, medios, salud o decisiones corporativas, los peligros se multiplican. La carencia de auditoría independiente y la falta de claridad en la lógica de entrenamiento pueden limitar el control de las instituciones sobre su propio criterio.
Frente a la promoción de los modelos chinos como soluciones open-source, asequibles y competitivas, Upmann recomienda que gobiernos y empresas adopten un enfoque de gobernanza basado en riesgos. Es fundamental cuestionar el uso de estos modelos, el tipo de datos que procesan, la posibilidad de auditoría independiente, el control sobre actualizaciones y el riesgo de dependencia geopolítica.
Aunque el código abierto puede parecer atractivo, no garantiza la confiabilidad, ya que puede haber transparencia en el código pero opacidad en los datos de entrenamiento y en el contexto geopolítico. En sectores regulados, es crucial establecer requisitos estrictos que incluyan transparencia, trazabilidad, pruebas independientes, protección de datos y supervisión humana. La asequibilidad de la inteligencia artificial es un factor relevante, pero una solución económica puede generar altos costos estratégicos si crea dependencia.
En cuanto a la influencia política de Beijing, Upmann señala que esta se manifiesta de manera indirecta. La inteligencia artificial puede amplificar esta influencia a través de respuestas predeterminadas, lógica de ranking, moderación de contenidos y selección de fuentes, entre otros mecanismos. En América Latina, donde la infraestructura digital se expande rápidamente, los modelos de IA podrían integrarse en servicios públicos, medios y procesos corporativos, definiendo condiciones invisibles del conocimiento.
Al abordar el riesgo de sesgo ideológico en estos sistemas, Upmann destaca que, mientras que las plataformas estadounidenses han sido acusadas de inclinación progresista, en China el problema es estructural. No se trata solo de sesgo, sino de operar dentro de un sistema político de partido único y un orden de información estatal. Por ello, es esencial que las instituciones extranjeras evalúen no solo la precisión y el desempeño de estos modelos, sino también su neutralidad y el impacto que pueden tener en la gobernanza y la autonomía de las decisiones.
