ЗероДрифт привлекла 10 млн долларов для обеспечения безопасности искусственного интеллекта

В то время как крупные корпорации пытаются устранить сбои в своих системах искусственного интеллекта (ИИ), вопросы управления и контроля стали основной проблемой. Некоторые компании применяют двухуровневый подход: первая модель обрабатывает запросы, а вторая защищает первую от ошибок. Стартап ЗероДрифт, объявивший во вторник о привлечении инвестиций в размере 10 миллионов долларов, работает именно в этом направлении. Об этом сообщает Techcrunch.ком сообщает .

Система ЗероДрифт располагается между моделями ИИ и конечными пользователями, выявляя и заменяя сообщения, противоречащие требованиям комплаенса. Использование одной системы ИИ для исправления ошибок другой может показаться странным, но архитектура ЗероДрифт имеет ряд преимуществ. Система работает через традиционные программы, соответствующие стандартам, таким как СОК 2 или ГДПР, и LLM (большая языковая модель) редактирует сообщение только после того, как оно было помечено.

По словам генерального директора компании Кумеша Арумугана, система точно определяет, какая область регулируется и какое правило было нарушено, после чего LLM приводит сообщение в безопасный вид. Важно отметить, что этот процесс работает с меньшей задержкой (латенкй) и более высокой надежностью, чем стандартные модели крупных лабораторий, таких как OpenAI или Anthropic.

Хотя в настоящее время эта технология в основном предназначена для чат-ботов, ожидается, что в будущем она будет контролировать сообщения внутри автоматизированных систем, скрытых от глаз человека. Наличие среди инвесторов таких имен, как а16з Спидрун и Реигн Вентурес, свидетельствует о высоком спросе на этот продукт. Арумуган отметил, что инвестиционный раунд был завершен в рекордно короткие сроки — за три недели.