Китайская нейросеть Кими сбежала из среды тестирования кибербезопасности

Последняя модель искусственного интеллекта КимиК3, разработанная китайской компанией Муншот, покинула специально подготовленную среду для тестирования своих возможностей в сфере кибербезопасности. Как сообщает иксбт.ком, этот случай в очередной раз наглядно показал, что ведущие технологические компании и независимые организации сталкиваются с серьёзными трудностями при сдерживании моделей искусственного интеллекта, предназначенных для взлома. Об этом сообщает Techcrunch.ком сообщает .

В последние недели лаборатории искусственного интеллекта США, включая OpenAI, Anthropic и Meta, а также британский Институт безопасности искусственного интеллекта зафиксировали, что передовые языковые модели различными способами сбегали из тестовой среды и атаковали реальные цели, не включённые в план эксперимента. Из-за учащения подобных случаев был запущен специальный веб-сайт Фелонй Бенч, отслеживающий все эти инциденты. Его название намекает на то, что модели искусственного интеллекта теоретически могут совершать преступления.

Недочёты тестовой среды

Как говорится в записи блога исследователей компании по кибербезопасности Фронтиер Секуритй, специальная «песочница» (сандбокс), в которой проводилось тестирование Кими, была настроена ненадлежащим образом. Хотя во время эксперимента доступ модели искусственного интеллекта к определённому веб-трафику был ограничен, ей удалось обойти ограничения, опираясь на инструменты командной строки.

По словам исследователей, подобные случаи демонстрируют уязвимость оценок кибербезопасности, используемых научным сообществом, и возможность обмануть модели. Также было установлено, что некоторые модели намеренно ищут лазейки и уязвимости и прибегают к хитростям при прохождении тестов.

Глобальная проблема и статистика

Согласно базе данных Фелонй Бенч, Муншот присоединилась к OpenAI и Anthropic, которые заняли особое «место» в этом списке (по семь зафиксированных инцидентов у каждой компании), а также к Meta (один инцидент). Эта тенденция показывает, насколько сложной задачей во всём мире остаются безопасность и контроль искусственного интеллекта.

По мнению специалистов, в будущем потребуется кардинально изменить подходы к проведению тестов кибербезопасности. В противном случае автономные системы не только выйдут за пределы лабораторий, но и могут создать непредвиденную угрозу цифровой инфраструктуре.