Limitando los errores de la IA: Pramaana Labs recauda 27 millones de dólares

A medida que las tecnologías de IA evolucionan, las grandes empresas enfrentan problemas de fiabilidad al implementar estos sistemas en procesos de negocio reales. La startup Pramaana Labs, que busca resolver este problema, ha recaudado 27 millones de dólares en una ronda de inversión liderada por Khosla Ventures. En el proyecto también participaron fondos prestigiosos como Accel, Boldcap, Nexus Venture Partners, Premji Invest y Unbound. Así lo informa Techcrunch.com en su noticia.

El objetivo principal de Pramaana Labs es eliminar las "alucinaciones" (invención de datos incorrectos) y los errores del sistema combinando la IA con precisión matemática. Según TechCrunch, la startup destinará el capital recibido al desarrollo de sistemas de AI seguros para sectores donde los errores resultan costosos, como el derecho, la creación de fármacos y los informes fiscales.

Precisión matemática y enfoque determinista

Aunque los LLM (grandes modelos de lenguaje) populares hoy en día destacan por su flexibilidad, a menudo pueden dar resultados ilógicos. Pramaana Labs está instalando una capa de verificación especial (deterministic layer) sobre estos modelos. Esta capa se basa en el lenguaje de programación de código abierto LEAN, utilizado para verificar pruebas matemáticas, y controla las respuestas de la IA basándose en reglas estrictas.

Ranjan Rajagopalan, fundador y CEO de la empresa, destaca que el código fiscal o las normas legales tienen reglas tan estrictas como las matemáticas. "Si tienes una versión codificada de estas reglas, las conclusiones lógicas serán precisas e invariables", afirma. Este enfoque garantiza que los resultados de la IA sean legal y científicamente correctos, manteniendo su capacidad de comunicación fluida.

Supervisión de expertos y planes futuros

Pramaana Labs está creando sistemas de verificación estilo LEAN independientes para cada sector. Se han involucrado a algunos de los expertos más prestigiosos del mundo en el proyecto. Por ejemplo, Danny Werfel, excomisionado del Servicio de Impuestos Internos (IRS) de EE. UU., trabaja como asesor para el sistema fiscal. Los trabajos en ciberseguridad y farmacéutica están supervisados por profesores de las universidades IIT Delhi, IIT Madras y UC Berkeley.

En el contexto de Uzbekistán, tales sistemas de verificación son muy importantes al implementar la IA en los servicios estatales, el sistema fiscal y bancario. Dado que en asuntos financieros y legales, incluso un pequeño error cometido por la AI puede tener consecuencias graves. Startups como Pramaana Labs buscan precisamente derribar este muro de desconfianza.

En opinión de Ranjan Rajagopalan, los problemas más difíciles del mundo no son irresolubles, sino que no están sistematizados. "En cualquier campo que afecte la salud, el dinero o la libertad humana, existen reglas. Ahora nuestra tarea es convertir esas reglas en código", concluye. Esta tecnología permitirá a las empresas en el futuro utilizar la IA no solo como un experimento, sino como una herramienta de trabajo fundamental.