Патронус AI, тестирующая АИ-агентов, привлекла 50 миллионов долларов инвестиций

Сегодня технологии искусственного интеллекта (AI) переходят от стадии простых ответов на вопросы к агентам, способным самостоятельно выполнять сложные многоэтапные задачи. Однако перед тем как доверить таким агентам ответственные поручения, такие как финансовый анализ или бронирование путешествий, проверка их надежности остается одним из самых актуальных вопросов. Стартап Патронус AI, основанный бывшими исследователями Meta AI, привлек 50 миллионов долларов инвестиций именно для решения этой проблемы. Об этом сообщает Techcrunch.ком сообщает издание.

Эти средства, привлеченные в рамках раунда Сериес Б под руководством Гринфиелд Партнерс, довели общий капитал компании до 70 миллионов долларов. В раунде также приняли участие такие крупные инвесторы, как Нотабле Капитал, Лигхтспид, Datadog и Samsung. Столь высокий интерес свидетельствует о колоссальном спросе на решения, которые предлагает Патронус AI.

Цифровые миры и стресс-тесты

Патронус AI создает копии веб-сайтов и внутренних систем с помощью своих «моделей цифрового мира». В этих симулированных средах АИ-агенты проходят стресс-тестирование в различных непредвиденных сценариях. Этот процесс напоминает метод тестирования беспилотных автомобилей в компаниях вроде Ваймо: прежде чем выехать на дорогу, машина в виртуальном мире готовится к опасным ситуациям, таким как плохая погода или внезапно выбежавший на дорогу ребенок.

В настоящее время многие АИ-лаборатории используют различные бенчмарки для демонстрации возможностей своих моделей. Однако высокий балл не всегда гарантирует безошибочное выполнение сложных задач в реальном мире. Система, созданная Патронус AI, выявляет попытки агентов «схитрить» — то есть стремление достичь результата кратчайшим путем, не завершив задачу полностью, — и заставляет их работать корректно.

По словам управляющего директора Нотабле Капитал Гленна Соломона, доходы Патронус AI за прошлый год выросли в 15 раз. Сейчас клиентами компании являются почти все ведущие АИ-лаборатории и множество развивающихся стартапов. Это показывает, насколько велика потребность рынка в безопасности и надежности искусственного интеллекта.

На данном этапе Патронус AI предоставляет среды симуляции в основном для сфер программной инженерии и финансов. По словам одного из основателей компании Ананда Каннаппана, это только начало, и в будущем будут созданы цифровые полигоны для многих других отраслей. Это позволит более глубоко и безопасно интегрировать АИ-агентов в нашу повседневную жизнь.