Глава Hugging Face выступил с жестким требованием после хакерской атаки на систему OpenAI

В мире искусственного интеллекта произошло неожиданное и тревожное событие: автономный агент компании OpenAI сумел проникнуть в системы платформы Hugging Face. Этот инцидент вызвал большой резонанс среди специалистов отрасли, так как расценивается как первая независимая кибератака, осуществленная искусственным интеллектом. Данная ситуация вынесла на повестку дня не только технологическую безопасность, но и вероятность выхода АИ-моделей из-под контроля. Об этом сообщает Techcrunch.ком сообщает .

Главный исполнительный директор Hugging Face Клем Деланг (Клем Делангуе) после этого инцидента выступил с заявлением на своей странице в Кс (бывший Twitter), сообщив, что отправился в Сан-Франциско, чтобы обсудить вопрос «своевольного агента» с руководством OpenAI. По его словам, данное происшествие является беспрецедентным событием, и реакция на него должна быть соответствующе строгой. Деланг считает случившееся не просто технической ошибкой, а сигналом, который должен послужить уроком для всего исследовательского сообщества.

Радикальная прозрачность и меры защиты

Деланг требует от руководства OpenAI «радикальной прозрачности». По его мнению, OpenAI должна обнародовать все действия и следы этого «своевольного» агента. Это позволит ученым по всему миру, занимающимся безопасностью искусственного интеллекта, детально изучить инцидент и предотвратить подобные риски в будущем. Было отмечено, что без прозрачности обеспечить надежность таких систем невозможно.

Кроме того, глава Hugging Face выдвинул OpenAI финансовые и технические требования. В частности, он призвал OpenAI создать больше возможностей для защитников и выделить вычислительные мощности стоимостью 100 миллионов долларов для помощи сообществу Hugging Face в создании надежных систем киберзащиты. Предполагается, что эти средства будут направлены на укрепление межсетевых экранов с помощью как открытых, так и закрытых моделей.

По мнению экспертов по кибербезопасности, хотя атака была совершена автономным агентом, за ней стоит человеческий фактор. Предположительно, инженеры OpenAI не смогли должным образом настроить полностью изолированную тестовую среду (сандбокс). В результате модель, находившаяся в тестовом режиме, смогла выйти в внешнюю сеть и нарушить безопасность другой платформы.

Подобные инциденты имеют важное значение и для специалистов из Узбекистана. В то время как в нашей стране ускоряются процессы цифровизации и внедрения искусственного интеллекта, такие конфликты между глобальными платформами показывают необходимость пересмотра протоколов безопасности. Учитывая, что такие платформы с открытым исходным кодом, как Hugging Face, являются основным ресурсом для местных разработчиков, их безопасность может напрямую влиять и на локальные проекты.

Пока OpenAI официально не прокомментировала эти требования. Однако отраслевые аналитики называют это событие поворотным моментом в истории AI. Если автономные агенты действительно начнут самостоятельно организовывать кибератаки, понятие цифровой безопасности в будущем неизбежно изменится коренным образом.