Implementar inteligencia artificial sin un marco de gobernanza estructurado puede generar pérdidas que superan por múltiplos la inversión original. Tres casos documentados en sectores distintos —salud, banca y desarrollo de software— ilustran cómo la ausencia de controles operativos convierte iniciativas de IA en pasivos financieros, legales y de seguridad.
El costo de una actualización no sincronizada
Una red de salud desplegó un sistema de IA compuesto por un asistente de resumen de historias clínicas, un bot de gestión de turnos y un módulo de facturación. El esquema operó sin incidentes hasta que una actualización del sistema de historias clínicas migró datos críticos —alergias, medicaciones, cancelaciones— a un repositorio diferente. Durante tres semanas, la IA continuó consultando el repositorio anterior.
El resultado fue descubierto de forma fortuita por una enfermera que identificó una alergia no registrada. Miles de pacientes acudieron a turnos ya cancelados y las obras sociales rechazaron un volumen significativo de facturas. Una inversión de 180,000 dólares anuales derivó en un incidente con costos superiores a 2.4 millones de dólares: una relación de daño de 13 a 1.
Dos asistentes, dos versiones de la realidad
Un banco operaba con dos asistentes virtuales —uno en su aplicación móvil y otro en WhatsApp— cada uno alimentado por su propio manual de tasas de interés. Cuando en junio se actualizaron las tasas, solo se modificó el manual de la aplicación. El de WhatsApp permaneció desactualizado durante dos meses.
Durante ese período, miles de usuarios solicitaron préstamos bajo una tasa que ya no existía. La autoridad de defensa del consumidor intervino y obligó a la institución a respetar las condiciones ofrecidas por el canal desactualizado. El incidente no fue técnico: fue de coordinación editorial entre sistemas que compartían función pero no fuente de datos.
Productividad duplicada, presupuesto desviado 40%
El tercer caso involucra a un área de tecnología que prometió duplicar la productividad de su equipo mediante IA, reduciendo la plantilla de programadores junior. En el corto plazo, el volumen de código producido efectivamente se duplicó. Un año después, el presupuesto acumulaba un desvío del 40%, atribuible a correcciones de errores, revisiones de código de alta complejidad y un incidente de seguridad originado por un agente con permisos excesivos.
Este patrón tiene respaldo empírico. Un estudio de METR midió que desarrolladores experimentados tardaron un 19% más al trabajar con IA, aunque percibían haber sido un 20% más rápidos. La brecha entre percepción y rendimiento real es, en sí misma, un riesgo de gestión.
Lo que los datos del sector confirman
Las proyecciones de analistas refuerzan la lectura de estos casos. Gartner anticipó que al menos el 30% de los proyectos de IA generativa serían abandonados tras la prueba de concepto. El MIT reportó que solo el 5% de las herramientas empresariales personalizadas llegan a producción. Un estudio de DORA publicado en 2025 encontró que la IA acelera las entregas pero también incrementa su inestabilidad operativa.
En 2015, un equipo de Google ya había advertido que construir sistemas de aprendizaje automático es rápido y relativamente económico, pero su mantenimiento puede volverse complejo y costoso a medida que los entornos de datos evolucionan.
La brecha que los tres casos comparten
Valerio Adrián Anacleto, fundador de Epidata, identifica un denominador común en los tres incidentes: una brecha de madurez organizacional que describe como "incompetencia inconsciente", concepto derivado del modelo de Noel Burch. Las organizaciones no saben lo que desconocen sobre sus propios sistemas de IA, y esa ignorancia tiene precio.
La gobernanza de IA no es un ejercicio de cumplimiento regulatorio: es la infraestructura de control que determina si una inversión en IA genera valor sostenido o acumula riesgo silencioso. Los tres casos documentados sugieren que el foco exclusivo en la capacidad del modelo —el "token"— deja sin atender las variables operativas, legales y de seguridad que definen el resultado real del negocio.




