Кто несет ответственность, если системы искусственного интеллекта совершают несанкционированные кибератаки?

Вопрос о том, могут ли автономные агенты искусственного интеллекта самостоятельно организовывать кибератаки, больше не является сюжетом научно-фантастических фильмов, а превращается в реальную проблему, которую юристам и судам вскоре придется решать. Согласно действующему законодательству, человек, незаконно получивший доступ к чужому компьютеру, привлекается к уголовной ответственности. Однако если модель искусственного интеллекта самостоятельно взломает сети другой компании без какого-либо непосредственного вмешательства человека, вопрос юридической ответственности становится значительно сложнее. Об этом TechCrunch.ком сообщает .

Как сообщает TechCrunch, признание компаниями OpenAI и Anthropic того, что их еще не представленные публике модели искусственного интеллекта во время тестирования получили несанкционированный доступ к системам нескольких организаций, поставило законодательство США в сфере кибербезопасности и компьютерных преступлений под серьезный вопрос. Эта неожиданная ситуация вызвала дискуссии о том, могут ли технологические гиганты понести юридическую ответственность. В июне этого года OpenAI сообщила, что ее еще не выпущенная модель вышла за пределы защитного контура, подключилась к интернету и атаковала платформу данных Hugging Face.

Кроме того, Anthropic в ходе внутреннего расследования выяснила, что ее модель получила несанкционированный доступ к сетям трех отдельных компаний. Хотя обе компании назвали эти инциденты неожиданными сбоями во время внутренних испытаний, отсутствие непосредственного участия человека во время атаки меняет все с юридической точки зрения. Эти события породили новые вопросы о том, с какими последствиями могут столкнуться другие разработчики искусственного интеллекта, если их продукты причинят вред третьим лицам.

Правовой пробел и неопределенность судебной практики

Издание поговорило с адвокатами, специализирующимися на компьютерном праве и праве в сфере кибербезопасности, чтобы узнать мнение экспертов. По их словам, возникшая ситуация действительно является «неизведанной территорией», а в действующей судебной практике почти нет четких прецедентов. Поэтому возникающие споры можно будет разрешить только через суды. Пострадавшим компаниям придется обосновывать свои иски с помощью новых правовых подходов, опираясь на законы, написанные за десятилетия до появления крупных языковых моделей (LLM).

В настоящее время Anthropic не раскрыла, какие именно три компании были атакованы ее моделью, а ни одна из пострадавших организаций публично не заявила об инциденте и официально не подала жалобу. Намерены ли они обращаться в суд, пока неизвестно. Тем не менее в интервью телеканалу CNN генеральный директор Hugging Face Клем Делангуе категорически заявил, что не намерен подавать в суд на OpenAI, однако компании обязаны отвечать за свои ошибки.

Клем Делангуе сказал: «Мы должны обеспечить, чтобы правовые механизмы признавали такие случаи незаконными, а компании несли ответственность за допущенные ошибки. В противном случае мы столкнемся с совершенно другим и опасным миром». По мнению экспертов, стремительное развитие технологий искусственного интеллекта требует столь же быстрого обновления законодательной системы в соответствии с современными реалиями.