ZeroDrift привлекла 10 млн долларов для обеспечения безопасности искусственного интеллекта
В то время как крупные корпорации пытаются устранить сбои в своих системах искусственного интеллекта (ИИ), вопросы управления и контроля стали основной проблемой. Некоторые компании применяют двухуровневый подход: первая модель обрабатывает запросы, а вторая защищает первую от ошибок. Стартап ZeroDrift, объявивший во вторник о привлечении инвестиций в размере 10 миллионов долларов, работает именно в этом направлении. Об этом сообщает Techcrunch.com сообщает .
Система ZeroDrift располагается между моделями ИИ и конечными пользователями, выявляя и заменяя сообщения, противоречащие требованиям комплаенса. Использование одной системы ИИ для исправления ошибок другой может показаться странным, но архитектура ZeroDrift имеет ряд преимуществ. Система работает через традиционные программы, соответствующие стандартам, таким как SOC 2 или GDPR, и LLM (большая языковая модель) редактирует сообщение только после того, как оно было помечено.
По словам генерального директора компании Кумеша Арумугана, система точно определяет, какая область регулируется и какое правило было нарушено, после чего LLM приводит сообщение в безопасный вид. Важно отметить, что этот процесс работает с меньшей задержкой (latency) и более высокой надежностью, чем стандартные модели крупных лабораторий, таких как OpenAI или Anthropic.
Хотя в настоящее время эта технология в основном предназначена для чат-ботов, ожидается, что в будущем она будет контролировать сообщения внутри автоматизированных систем, скрытых от глаз человека. Наличие среди инвесторов таких имен, как a16z Speedrun и Reign Ventures, свидетельствует о высоком спросе на этот продукт. Арумуган отметил, что инвестиционный раунд был завершен в рекордно короткие сроки — за три недели.
Читайте «Zamin» в Telegram!
