Empresas tecnológicas dividen estrategia: control de costos versus uso ilimitado de IA
Mientras algunos equipos directivos implementan límites presupuestarios, otros incentivan el consumo masivo de tokens
Dos estrategias opuestas emergen en el sector tecnológico respecto al gasto en inteligencia artificial. Mientras algunas organizaciones han implementado controles presupuestarios estrictos con límites mensuales entre $500 y $2,000 por empleado, otras promueven el 'tokenmaxxing': el uso intensivo de modelos de IA sin restricciones aparentes. Esta divergencia refleja una tensión…
Dos estrategias opuestas emergen en el sector tecnológico respecto al gasto en inteligencia artificial. Mientras algunas organizaciones han implementado controles presupuestarios estrictos con límites mensuales entre $500 y $2,000 por empleado, otras promueven el 'tokenmaxxing': el uso intensivo de modelos de IA sin restricciones aparentes.
Esta divergencia refleja una tensión fundamental en la adopción empresarial de IA. El término 'token' representa la unidad de medida que utilizan los modelos de lenguaje para procesar información. OpenAI establece que un token equivale aproximadamente a cuatro caracteres, lo que significa que documentos extensos pueden consumir miles de tokens rápidamente. Los costos varían según el proveedor: GPT-4 cuesta $5 por millón de tokens, mientras que modelos como Claude de Anthropic alcanzan $10 por millón.
La estrategia de uso sin límites ha generado consecuencias financieras significativas. Reportes indican que empresas como Uber agotaron presupuestos de IA en cuatro meses, mientras que Amazon ha instruido a sus equipos a reducir el consumo. Esta realidad contrasta con la percepción inicial de que la IA sería un multiplicador de productividad sin costo incremental.
Las organizaciones que implementan controles presupuestarios reportan mayor disciplina en la adopción. El enfoque de 'billeteras' con límites mensuales incluye alertas cuando los empleados se acercan al tope de gasto y corte automático al agotar fondos. Los empleados pueden solicitar asignaciones adicionales, pero la estructura obliga a justificar el uso intensivo.
Una encuesta reciente a directivos en Australia revela que el 80% expresa preocupación por la confusión entre alto consumo de IA y ganancias reales de productividad. El 32% ha pausado, cancelado o reducido implementaciones de IA debido a costos no previstos. Esta inquietud sugiere que las organizaciones están revaluando supuestos sobre retorno de inversión en tecnologías de IA.
Actualmente, solo el 9% de empresas australianas cuenta con límites formales en consumo de tokens o APIs para flujos de trabajo de IA. Esta baja adopción de controles presupuestarios indica que la mayoría de organizaciones aún opera sin visibilidad clara sobre costos de IA. Para CTOs y CFOs, el desafío es establecer marcos de gobernanza que permitan experimentación sin generar sorpresas presupuestarias. Los expertos sugieren que los límites mensuales en gasto de IA son una práctica que debería ser estándar en organizaciones que buscan escalar estas tecnologías de forma sostenible.
