Un agente de inteligencia artificial eliminó accidentalmente 48,218 archivos en el entorno de trabajo de un desarrollador en tan solo 103 segundos. El incidente, documentado públicamente y con más de 1,400 respuestas en cinco días, se originó por una interpretación incorrecta de la estructura de un entorno de pruebas, y expone con precisión los riesgos de permitir que agentes autónomos ejecuten operaciones destructivas sin validación humana intermedia.

El desarrollador había encargado al agente once tareas de reparación vinculadas a herramientas de análisis de datos históricos de opciones bursátiles. Las primeras diez se completaron sin incidentes. El problema surgió en la undécima: reconstruir un entorno de pruebas denominado "mirror", diseñado para replicar archivos originales y permitir modificaciones sin afectar los datos de producción. Durante el proceso de limpieza previa a la reconstrucción, el agente siguió 614 junctions de Windows —directorios que aparentan ser carpetas normales pero funcionan como enlaces hacia otras ubicaciones del sistema— y terminó actuando sobre archivos de producción activos. De los aproximadamente 55,550 archivos eliminados, solo 7,300 correspondían al contenido que debía borrarse.

El problema estructural detrás del error

Más allá del fallo técnico puntual, el incidente revela una vulnerabilidad de diseño que afecta a cualquier organización que opere con agentes de IA sobre entornos locales: la ausencia de mecanismos de contención antes de ejecutar operaciones irreversibles. El agente no solicitó confirmación antes de proceder con la eliminación masiva, ni estableció un umbral de alerta ante el volumen inusual de archivos afectados. Solo emitió un aviso al usuario cuando el daño ya estaba consumado.

El impacto se extendió al repositorio Git del proyecto. Aunque el índice permanecía accesible y permitía consultar nombres de archivos, los objetos internos necesarios para reconstruir versiones anteriores habían desaparecido. Esto ilustra una distinción crítica para cualquier equipo técnico: tener un repositorio Git no equivale a tener una copia de seguridad. Si los archivos locales y los objetos del historial coexisten en el mismo entorno afectado, una operación destructiva puede comprometer ambos de forma simultánea.

Implicaciones para la gestión de riesgos tecnológicos

La comunidad que comentó el incidente coincidió en un punto: proyectos de esta magnitud deberían contar con respaldos periódicos en servicios externos e independientes del entorno local. Una operación accidental sobre el sistema de archivos no debería tener la capacidad de comprometer el trabajo acumulado de meses o años.

Para las organizaciones que ya integran o evalúan integrar agentes de IA en flujos de trabajo operativos, este caso establece tres prioridades concretas: definir permisos de escritura y eliminación con el principio de mínimo privilegio; implementar puntos de confirmación humana antes de operaciones que superen umbrales predefinidos de archivos afectados; y mantener copias de seguridad remotas e independientes del entorno donde opera el agente. La utilidad de los agentes autónomos no está en discusión —su capacidad para ejecutar tareas complejas en segundos es precisamente su valor—, pero esa velocidad se convierte en riesgo operativo cuando no está contenida por protocolos de reversibilidad.