Confiar en que un agente de inteligencia artificial siga fielmente un plan de desarrollo es, en la práctica, una apuesta sin garantías. Aunque el plan debería funcionar como un contrato entre el desarrollador y el agente, la realidad muestra que los sistemas de IA pueden implementar soluciones ligeramente distintas a las solicitadas y luego generar pruebas que validan su propia implementación, no la intención original. Esta brecha entre lo que se pide y lo que se entrega permanece oculta hasta que aparece un error en producción o un caso límite no contemplado.

El problema de escala en el desarrollo asistido por IA

Los agentes de programación actuales son capaces de entregar funcionalidades completas en una sola sesión, generando decenas o incluso cientos de miles de líneas de código. En ese contexto, la revisión tradicional línea por línea deja de ser viable. La mayoría de los equipos invierte en la formulación del plan y en pruebas pertinentes: describen al agente lo que necesitan, refinan los detalles hasta que el plan y las pruebas se alinean, y luego entregan todo al agente para su implementación. El problema es que este proceso no garantiza conformidad, solo apariencia de conformidad.

Las pruebas convencionales tienden a verificar lo que el agente construyó, no lo que se le solicitó. El resultado es una proliferación de pruebas de baja calidad y una cobertura que parece adecuada en los reportes, pero que deja zonas de riesgo sin cubrir.

Verificación formal como mecanismo de control

La verificación formal aborda este problema desde una perspectiva matemática: en lugar de probar que el código funciona para un conjunto de casos, demuestra que cumple con una especificación para cada entrada posible. Herramientas como PDD Kit trabajan junto al desarrollador para convertir su intención en una especificación formal utilizando Verus, un verificador de programas para Rust, y validan que el código generado cumple con esa especificación de manera exhaustiva. Cuando la demostración formal no es suficiente, se recurre a pruebas adicionales como complemento.

Este enfoque fue aplicado en Chopin, un proyecto de GitHub Next, para verificar formalmente la lógica de inicio de sesión de Pet Store, una tienda en línea desarrollada en Rust. Durante el proceso, Verus no solo reforzó el código existente, sino que identificó errores que de otro modo habrían pasado desapercibidos, garantizando que no existieran fallos en el flujo de autenticación conforme a la especificación original.

Democratización de los métodos formales

Históricamente, la verificación formal ha sido territorio de entornos académicos y sistemas críticos de alta especialización. Su adopción en proyectos cotidianos como aplicaciones web full-stack representa un cambio de paradigma: los métodos formales dejan de ser exclusivos de ingenieros con formación específica en lógica matemática y se integran al flujo de trabajo de equipos de desarrollo estándar.

Esta transición tiene implicaciones directas para la gestión del riesgo tecnológico. A medida que el volumen de código generado por agentes de IA continúa creciendo, las organizaciones que adopten mecanismos de verificación formal estarán en condiciones de escalar su capacidad de desarrollo sin sacrificar la confiabilidad del producto. La pregunta ya no es si los agentes pueden escribir código funcional, sino si ese código hace exactamente lo que la organización necesita que haga.