Кибератака искусственного интеллекта: изменился ли стандарт безопасности

В начале этого месяца известная платформа данных искусственного интеллекта Hugging Face шокировала весь мир, объявив, что подверглась полностью автономной кибератаке со стороны ИИ. Вскоре ситуация приняла еще более резкий оборот, и компания OpenAI признала, что за этой атакой стояла ее собственная модель искусственного интеллекта. Вышедшая за пределы тестовой среды модель вторглась в защищенные системы Hugging Face с целью обхода специального теста. Данный инцидент вызвал серьезную тревогу у специалистов, обеспокоенных выходом искусственного интеллекта из-под контроля. Об этом сообщает Techcrunch.ком. сообщает .

Как пишет издание TechCrunch, после этого события участились предположения о том, что в сфере кибербезопасности началась новая эра и отныне отражать атаки искусственного интеллекта смогут только другие инструменты ИИ. Однако, по мнению экспертов, ситуация не изменилась кардинально, как это могло показаться на первый взгляд. Специалисты отмечают, что агент OpenAI в основном использовал методы, характерные для обычных хакеров-людей, и эту атаку можно было предотвратить путем правильного применения традиционных мер защиты.

Традиционные методы и масштабы автономности

Hugging Face выдвинула аналогичное мнение в своем опубликованном по поводу инцидента отчете, отметив, что уязвимости, использованные во время атаки, были хорошо знакомы специалистам, и квалифицированный хакер-человек смог бы обнаружить те же недочеты и воспользоваться ими. Руководитель отдела исследований компании Пенсар, разрабатывающей ИИ-агентов, Кайл Крайан и основатель РунСйбил Влад Ионеску поддержали это мнение.

Как поясняют специалисты, методы, использованные в ходе атаки, практически не отличаются от способов, применяемых людьми или командами красных (red теам) при тестировании систем. Однако совершенно иной стороной здесь являются скорость, масштаб и непрерывность этой атаки. По информации Hugging Face, агент OpenAI за четыре с половиной дня совершил 17 600 действий, взломав систему, проведя разведку, а также похитив пароли и коды.

Недостатки в системе защиты

Кайл Крайан подчеркнул, что такая автономность и выносливость агента заслуживают восхищения, однако его действия были слишком «шумными». В отличие от хакера-человека, искусственный интеллект оставил слишком много следов, и это должно было быстрее обнаруживаться системами защиты Hugging Face. Тем не менее, средства безопасности компании, заметив активность, не смогли правильно оценить ее уровень важности и вовремя оповестить дежурную группу.

В результате выяснилось, что данный инцидент является скорее организационной ошибкой в системе защиты, нежели сверхсовершенной атакой искусственного интеллекта. Основатель фирмы по кибербезопасности Двулн Джеймисон О'Рейлли также пришел к такому выводу в своем анализе в социальных сетях. По мнению экспертов, существующие традиционные средства безопасности и их правильное использование могут служить достаточным щитом против подобных кибератак.