La valuación de startups de infraestructura de inteligencia artificial se duplicó en apenas treinta días, alcanzando $21 mil millones tras una ronda de financiamiento de $700 millones liderada por Jane Street, un fondo cuantitativo que adquirió hardware especializado para inferencia de IA.

Este crecimiento es excepcional incluso para el acelerado sector de inteligencia artificial. Hace un mes, la valuación era de $10.3 mil millones; en diciembre del año anterior, apenas $5 mil millones. Los inversionistas han agregado casi $11 mil millones de valor en treinta días, reflejando la urgencia del mercado por resolver un cuello de botella crítico: la inferencia, el proceso que ejecuta modelos de lenguaje después de que un usuario formula una solicitud.

Arquitectura de dos fases y optimización de hardware

La inferencia se divide en dos fases con demandas computacionales distintas. La fase "prefill" requiere cálculos matemáticos intensivos mientras el sistema analiza la solicitud y su contexto. La fase "decodificación" genera los tokens de salida que constituyen la respuesta que recibe el usuario. Cada fase exige optimizaciones diferentes, y la mayoría de proveedores de infraestructura ha tratado ambas con arquitecturas genéricas.

La startup ha desarrollado un chip de prellenado que opera a bajo voltaje, permitiendo mayor densidad de transistores sin los problemas de disipación térmica que afectan a otros chips de alto rendimiento. Esto se traduce en procesamiento más rápido de tokens durante la fase crítica de análisis. Además, diseñó un nuevo tipo de memoria y una interconexión para la decodificación denominada "memoria a escala de clúster", que permite a múltiples chips conectarse y utilizar un grupo de memoria compartida a alta velocidad y baja latencia.

Implicaciones operacionales y económicas

Esta arquitectura dual aborda un problema económico concreto en centros de datos: la utilización ineficiente de recursos. Durante prefill, los chips requieren paralelismo masivo; durante decodificación, el cuello de botella es la memoria. Sistemas genéricos comprometen ambas fases. La especialización permite reducir latencia y costos operacionales simultáneamente, lo que explica el interés de Jane Street en instalar su propio rack operativo en su centro de datos.

La compañía ofrece su tecnología a través de sistemas completos denominados "clusters de inferencia de frontera", que se posicionan como alternativa a las soluciones de infraestructura existentes. Aunque inicialmente se percibía que los chips estaban diseñados para ejecutar modelos específicos, actualmente son capaces de ejecutar cualquier modelo de frontera, eliminando una limitación percibida que afectó la adopción temprana.

Contexto de mercado y financiamiento

La ronda incluyó participación de fondos de capital de riesgo de primer nivel como Kleiner Perkins, Sequoia Capital, Andreessen Horowitz, así como inversores institucionales como Tiger Global, Bain Capital Ventures, Blackstone y otros. Este nivel de respaldo institucional refleja la confianza en que la inferencia es un mercado de infraestructura con demanda sostenida, no una oportunidad especulativa de corto plazo.

La duplicación de valuación en treinta días señala un cambio en las prioridades de inversión dentro del ecosistema de IA. Mientras que hace dieciocho meses el capital se concentraba en modelos de lenguaje grandes, ahora fluye hacia la infraestructura que los ejecuta de forma eficiente. Esta transición refleja la maduración del mercado: el diferenciador competitivo se desplaza desde la capacidad de entrenar modelos hacia la capacidad de operarlos a escala con margen económico positivo.