A medida que las grandes corporaciones intentan solucionar los fallos en sus sistemas de inteligencia artificial (IA), la gobernanza y el control se han convertido en problemas clave. Algunas empresas están aplicando un enfoque doble: el primer modelo procesa las solicitudes, mientras que el segundo protege al primero de errores. La startup ZeroDrift, que anunció el martes una inversión de 10 millones de dólares, opera precisamente en esta área. Así lo informa Techcrunch.com informa .
El sistema ZeroDrift se sitúa entre los modelos de IA y los usuarios finales, identificando y reemplazando los mensajes que infringen los requisitos de cumplimiento. Construir un sistema de IA para corregir los errores de otro puede parecer extraño, pero la arquitectura de ZeroDrift ofrece varias ventajas. El sistema funciona a través de software tradicional que aplica estándares como SOC 2 o GDPR, y solo después de que un mensaje es marcado, el LLM (modelo de lenguaje grande) lo vuelve a editar.
Según el CEO Kumesh Aroomoogan, el sistema identifica con precisión qué sector está regulado y qué regla se ha infringido, tras lo cual el LLM hace que el mensaje sea seguro. Es importante destacar que este proceso funciona con menor latencia y mayor fiabilidad que los modelos estándar de grandes laboratorios como OpenAI o Anthropic.
Aunque esta tecnología está diseñada actualmente principalmente para chatbots, se espera que en el futuro controle mensajes dentro de sistemas automatizados invisibles para el ojo humano. La presencia de inversores como a16z Speedrun y Reign Ventures demuestra la alta demanda de este producto. Aroomoogan señaló que la ronda de inversión se completó en un tiempo récord de tres semanas.
¡Lee “Zamin” en Telegram!
