Patronus AI recauda 50 millones de dólares para probar agentes de IA

Hoy en día, las tecnologías de inteligencia artificial (AI) han pasado de responder preguntas simples a convertirse en agentes que ejecutan de forma autónoma tareas complejas y de múltiples pasos. Sin embargo, antes de confiarles responsabilidades como el análisis financiero o la reserva de viajes, verificar su fiabilidad sigue siendo uno de los problemas más urgentes. Patronus AI, una startup fundada por ex investigadores de Meta AI, ha recaudado 50 millones de dólares para resolver precisamente este problema. Así lo informa Techcrunch.com en su noticia.

Estos fondos, recaudados en una ronda de inversión Series B liderada por Greenfield Partners, han elevado el capital total de la empresa a 70 millones de dólares. En la ronda también participaron grandes inversores como Notable Capital, Lightspeed, Datadog y Samsung. Este alto interés demuestra la enorme demanda de las soluciones que ofrece Patronus AI.

Mundos digitales y pruebas de estrés

Patronus AI crea réplicas de sitios web y sistemas internos a través de sus "modelos de mundos digitales". En estos entornos simulados, los agentes AI se someten a pruebas de estrés bajo diversos escenarios imprevistos. Este proceso es similar al método que utilizan empresas como Waymo para probar coches autónomos: antes de salir a la calle, el coche se prepara en un mundo virtual para situaciones peligrosas, como mal tiempo o un niño que cruza la carretera repentinamente.

Actualmente, muchos laboratorios de AI utilizan diversos benchmarks para mostrar las capacidades de sus modelos. Sin embargo, una puntuación alta no siempre garantiza que la inteligencia artificial realice tareas complejas del mundo real sin errores. El sistema creado por Patronus AI detecta cuando los agentes "hacen trampas", es decir, cuando intentan alcanzar el resultado mediante atajos sin completar la tarea, y los obliga a funcionar correctamente.

Según Glenn Solomon, director general de Notable Capital, los ingresos de Patronus AI se multiplicaron por 15 durante el año pasado. Actualmente, casi todos los laboratorios de AI líderes y numerosas startups en crecimiento son clientes de la empresa. Esto muestra cuán grande es la necesidad del mercado en cuanto a seguridad y fiabilidad de la inteligencia artificial.

En la etapa actual, Patronus AI ofrece principalmente entornos de simulación para la ingeniería de software y las finanzas. Según Anand Kannappan, uno de los fundadores de la empresa, esto es solo el comienzo y en el futuro se crearán campos de prueba digitales para muchos otros sectores. Esto permitirá una integración más profunda y segura de los agentes AI en nuestra vida cotidiana.