Separar modelos de agentes de IA: el desafío técnico que define la infraestructura empresarial
Con seis millones de implementaciones diarias y más de un billón de tokens procesados cada día, el debate sobre cómo desplegar agentes de IA en producción con seguridad y control se vuelve central para la estrategia tecnológica corporativa.
Vercel procesa actualmente seis millones de implementaciones diarias, de las cuales la mitad son activadas por agentes de codificación. Más de un billón de tokens transitan cada día a través de su gateway de inteligencia artificial. Estas cifras reflejan una transición concreta: el mercado dejó atrás la fase de prototipado…
Vercel procesa actualmente seis millones de implementaciones diarias, de las cuales la mitad son activadas por agentes de codificación. Más de un billón de tokens transitan cada día a través de su gateway de inteligencia artificial. Estas cifras reflejan una transición concreta: el mercado dejó atrás la fase de prototipado y enfrenta ahora los desafíos reales de llevar agentes de IA a entornos de producción.
Guillermo Rauch, director ejecutivo de Vercel, expuso en la conferencia ShipNYC los aprendizajes de este proceso. Según Rauch, dos casos de uso concentran la mayor parte del consumo de tokens en el ecosistema de software: el agente de codificación, que automatiza tareas de desarrollo, y el agente corporativo interno, orientado a la gestión empresarial. Este segundo tipo plantea preguntas críticas para cualquier CTO: ¿cómo garantizar acceso seguro a los datos? ¿Cómo auditar las acciones del agente? ¿Qué controles de acceso son necesarios para que complete tareas sin comprometer información sensible?
Para responder a estos desafíos, la empresa desarrolló dos herramientas complementarias. El marco Eve permite definir instrucciones y habilidades de los agentes en lenguaje natural. Vercel Sandbox, por su parte, ofrece un entorno controlado donde los agentes operan con políticas explícitas sobre acceso y salida de datos. Este enfoque de sandbox cobra relevancia en industrias con alta sensibilidad de código: en sectores como el aeroespacial, donde compañías manejan décadas de código especializado, una herramienta de desarrollo mal configurada puede exponer toda la base de código a servidores externos durante procesos de entrenamiento de modelos.
El impacto en operaciones comerciales es igualmente concreto. Rauch ilustró el caso de una representante de ventas dentro de su propia organización: su capacidad de crecimiento no dependía de habilidades interpersonales, sino del acceso oportuno a datos de cuentas. Los agentes internos resolvieron esa brecha, permitiéndole priorizar esfuerzos con información crítica en tiempo real. Para el C-suite, este ejemplo sintetiza la apuesta estratégica detrás de la infraestructura de agentes: no se trata de automatización por sí misma, sino de convertir el acceso a datos en ventaja competitiva operativa.
