Ocho de cada diez equipos de desarrollo han integrado código o pruebas generadas por inteligencia artificial sin un entendimiento completo de su funcionamiento. Ese dato, extraído de un análisis reciente sobre el estado de la verificación en entornos de desarrollo con IA, resume una de las tensiones más críticas del sector: la velocidad de adopción supera con creces la madurez de los controles de calidad.

El impacto ya es medible en producción. En el 44% de los equipos donde la proporción de código generado por IA ha aumentado, también se incrementaron los defectos no detectados o los incidentes en entornos productivos. La correlación no es casual: solo el 41% de los equipos aplica alguna forma de verificación automatizada antes de integrar código generado por estas herramientas, mientras que la mayoría depende de revisiones manuales (55%) o controles de calidad posteriores a la escritura (51%), métodos que históricamente han demostrado menor eficacia a escala.

La brecha entre adopción y control

La adopción de IA en desarrollo de software es prácticamente universal: el 97% de los equipos encuestados ya utiliza esta tecnología en pruebas o planea hacerlo. En el 40% de los equipos, más de la mitad del código que llega a los usuarios finales es generado por herramientas de IA. Sin embargo, la infraestructura de verificación no ha evolucionado al mismo ritmo.

Entre los equipos que no implementan pruebas de integración continua independientes, el 49% reportó un aumento en defectos no detectados. Ese porcentaje cae al 38% en los equipos que sí aplican estas pruebas, lo que sugiere que la diferencia no está en la herramienta de generación, sino en el rigor del proceso de validación posterior.

Un dato adicional ilustra la profundidad del problema: el 93% de los desarrolladores admitió haber integrado respuestas de IA que no comprendía completamente. En equipos que utilizan el enfoque LLM-as-a-judge —es decir, un modelo de lenguaje evaluando a otro— ese porcentaje de integración sin comprensión sube al 29%, frente al 15% en equipos que no lo usan.

Agentes de IA y la ausencia de metodología de prueba

El problema se extiende al segmento de agentes de IA, donde la madurez de los procesos es aún menor. El 77% de los equipos desarrolla agentes que requieren pruebas específicas, pero el 37% no cuenta con un método sistemático para evaluarlos. Solo el 28% los somete a pruebas adversariales —es decir, con usuarios que intentan activamente hacerlos fallar—, una práctica considerada estándar en entornos de alta criticidad.

En cuanto a la asignación de recursos, la distribución del presupuesto refleja la misma desproporción: el 50% del gasto en pruebas de IA se concentra en la generación de respuestas, mientras que apenas el 17% se destina a su verificación. Solo el 13% de los equipos tiene un plan de respuesta a incidentes para errores relacionados con IA.

Implicaciones para la gestión del riesgo tecnológico

Este panorama plantea una pregunta directa para cualquier organización que dependa de software en producción: ¿cuánto del código que sostiene sus operaciones fue generado por IA y cuánto de ese código fue verificado con rigor?

Las pruebas generadas por IA presentan márgenes de error en el 65% de los casos, según el mismo análisis. Eso no las hace inútiles, pero sí exige que los equipos de ingeniería traten el código generado automáticamente con el mismo nivel de escrutinio que aplicarían a código externo no auditado. La velocidad de desarrollo que promete la IA solo se traduce en ventaja competitiva real cuando va acompañada de procesos de verificación equivalentemente robustos.

La brecha identificada no es un problema técnico menor: es un riesgo operativo con consecuencias directas en la estabilidad de los sistemas, la experiencia del usuario y la reputación de las organizaciones que los desarrollan.