Garantizar que un robot con IA generativa no lastime a un humano es más complejo de lo que parece. A diferencia de los algoritmos tradicionales, cuyo comportamiento puede anticiparse con relativa precisión, los modelos generativos operan con un grado de imprevisibilidad que los métodos de validación convencionales no logran cubrir. Esa brecha entre capacidad técnica y certeza operativa es el problema central que un grupo de investigadores de Carnegie Mellon decidió convertir en empresa.
El Dr. Ding Zhao, director del laboratorio de IA segura en esa universidad, cofundó junto a Kyle Wong y Simo Rachidi una firma especializada en evaluación probabilística de sistemas robóticos. La propuesta no es construir robots, sino certificar que son seguros antes de que lleguen a hogares, fábricas o cualquier entorno con presencia humana no controlada. La compañía ha levantado más de 12 millones de dólares en una ronda inicial respaldada por Shine Capital, a16z Speedrun, Box Group y el endowment de la propia Carnegie Mellon.
Simulación como método de validación
El núcleo técnico de la propuesta consiste en crear representaciones digitales de entornos reales —fábricas, pasillos, espacios domésticos— y ejecutar miles de escenarios donde humanos virtuales interactúan con el robot bajo prueba. El objetivo es anticipar situaciones límite: una persona que cae, un trabajador que aparece en un ángulo ciego, un movimiento inesperado que el sistema no fue entrenado para procesar.
Este enfoque tiene precedentes en la industria automotriz, donde empresas como Tesla utilizan simulaciones con modelos humanos realistas para validar sistemas de conducción autónoma. Sin embargo, los robots físicos enfrentan una complejidad adicional: operan en entornos con estándares de seguridad heterogéneos y deben adaptarse a comportamientos humanos que, por definición, no siguen patrones fijos.
Wong señala que uno de los escenarios más subestimados es precisamente el de los usuarios sin experiencia previa con robots. A escala masiva, la mayoría de las personas que interactúen con estos sistemas no tendrán entrenamiento ni protocolos de seguridad internalizados, lo que eleva exponencialmente la variedad de situaciones que el robot debe manejar sin generar riesgo.
Validación externa como estándar de industria
Un aspecto estratégico del modelo es su posicionamiento como capa de validación independiente. Los fundadores argumentan que los propios fabricantes de robots tienen incentivos para recurrir a una entidad externa que certifique sus sistemas, en parte porque facilita el intercambio de información sobre incidentes de seguridad sin comprometer datos propietarios.
Jonathan Lai, socio de a16z Speedrun, articula la urgencia del enfoque: establecer un estándar de seguridad industrial antes de que ocurran incidentes en entornos reales es significativamente menos costoso —en términos económicos, regulatorios y reputacionales— que reaccionar después. La lógica es análoga a la de los organismos de certificación en aviación o dispositivos médicos: la validación previa al despliegue reduce la exposición sistémica.
En el sector industrial, la colaboración ya tiene casos concretos. Vishal Dugar, responsable de tecnología en Gritt Robotics, trabaja con esta firma en simulaciones para robots que asisten en la instalación de paneles solares, un entorno donde la interacción con operarios humanos es constante y los márgenes de error tienen consecuencias físicas directas. El caso ilustra cómo la validación de seguridad se convierte en un requisito operativo, no solo en una consideración ética.
