Patronus AI recibe $50 millones para desarrollar 'mundos digitales' que desafían a agentes de inteligencia artificial.

Patronus AI asegura $50 millones para desarrollar 'mundos digitales' que desafían a agentes de inteligencia artificial La inteligencia artificial (IA) está en una constante evolución, pasando de ser meros asistentes que responden preguntas a convertirse en agentes capaces de ejecutar tareas complejas de manera autónoma. Sin embargo, antes de que…

Patronus AI asegura $50 millones para desarrollar 'mundos digitales' que desafían a agentes de inteligencia artificial

La inteligencia artificial (IA) está en una constante evolución, pasando de ser meros asistentes que responden preguntas a convertirse en agentes capaces de ejecutar tareas complejas de manera autónoma. Sin embargo, antes de que estos agentes puedan ser plenamente confiables para actividades como la reserva de viajes o el análisis financiero, es crucial que los desarrolladores de modelos y las startups que crean estos agentes aseguren su funcionamiento en una variedad de escenarios prácticos.

Los laboratorios de IA suelen recurrir a benchmarks para demostrar la eficacia de sus modelos, pero una alta puntuación en estos estándares no garantiza que un agente pueda desempeñar múltiples funciones complejas en situaciones del mundo real. En este contexto, Patronus AI, una startup fundada en 2023 por ex investigadores de Meta AI, Anand Kannappan y Rebecca Qian, se posiciona como un actor clave al ayudar a los desarrolladores a afinar sus modelos mediante la creación de entornos digitales simulados que evalúan el rendimiento de los agentes.

Con sede en San Francisco, Patronus ha captado la atención de los principales laboratorios de IA y numerosas startups emergentes, lo que ha llevado a un crecimiento exponencial en sus ingresos, que han aumentado 15 veces en el último año. Este interés ha culminado en una reciente ronda de financiamiento de Serie B por $50 millones, liderada por Greenfield Partners, con la participación de Notable Capital, Lightspeed, Datadog y Samsung, elevando la financiación total de la empresa a $70 millones.

Patronus utiliza lo que denomina "modelos de mundo digital" para replicar sitios web y sistemas internos, permitiendo que los agentes sean sometidos a pruebas de estrés tras su entrenamiento mediante aprendizaje por refuerzo. Este enfoque recompensa la finalización exitosa de tareas y penaliza los errores cometidos. Los laboratorios de IA valoran enormemente estas simulaciones digitales, ya que ofrecen a los agentes la oportunidad de enfrentar diferentes y a veces impredecibles escenarios. Patronus compara su método con el utilizado por Waymo para entrenar vehículos autónomos, que primero construyó mundos sintéticos para probar sus autos contra peligros poco comunes, como condiciones climáticas extremas.

Un desafío particular que enfrentan los agentes de IA es su tendencia a tomar atajos, lo que a menudo resulta en la incapacidad de completar tareas correctamente. Según Glenn Solomon, director gerente de Notable Capital, "Patronus es realmente bueno detectando los trucos y asegurándose de que los modelos sean responsables".

Aunque actualmente Patronus se centra en proporcionar sus mundos digitales simulados para ingeniería de software y finanzas, su visión es mucho más amplia. Kannappan señala que están enfocados en problemas verificables, pero reconoce que existen muchas áreas que son difíciles de validar. "Queremos poder crear un entorno en el que un agente pueda operar durante 10 horas, 10 días o 10 semanas", afirma.

En cuanto a la competencia, Patronus considera que su principal desafío proviene de los equipos internos que los laboratorios de IA ya han establecido para evaluar el comportamiento de los agentes. Mientras que otras empresas de datos humanos, como Mercor y Surge, asisten a los desarrolladores con aprendizaje por refuerzo, Patronus se diferencia al evaluar el comportamiento de los agentes sin intervención humana, lo que añade un valor significativo a su oferta en el mercado.