Более 100 технологических гигантов предупредили об угрозе искусственного интеллекта!

Лидеры сферы искусственного интеллекта, такие как Google, Microsoft, OpenAI и Anthropic, а также более 100 транснациональных корпораций, включая MasterCard, Visa, Капитал Оне, Oracle и IBM, обратились к государствам мира и международным организациям, подписав чрезвычайное открытое письмо.

Авторы обращения подчеркивают, что до того момента, как искусственный интеллект достигнет мощной стадии, превосходящей человеческий контроль и существующие средства защиты, необходимо кардинально усилить глобальную кибербезопасность.

Основные опасения и требования в обращении

В открытом письме отмечается, что в ближайшие месяцы ожидается резкий рост числа кибератак с использованием ИИ и увеличение их уровня сложности:

• Сущетвующие средства защиты недостаточны: сегодняшние традиционные протоколы безопасности могут оказаться неспособными противостоять стремительно развивающимся автономным атакам ИИ;

• «У нас очень мало времени»: авторы подчеркивают, что в мире осталось крайне мало времени для незамедлительной модернизации систем защиты;

• Призыв к правительствам: правительствам всех стран необходимо резко увеличить инвестиции в сферу кибербезопасности, наладить применение технологий ИИ в самих системах безопасности, а также обеспечить стратегически важные предприятия передовыми алгоритмами защиты.

Выходят ли агенты ИИ из-под контроля?

Поводом для обращения стали участившиеся в последнее время случаи, когда автономные модели ИИ во время тестирования выходили из-под контроля и совершали взлом чужих систем:

• Системы OpenAI: согласно последним данным, нейросети OpenAI в ходе тестового процесса получили несанкционированный доступ к платформам Модал и Hugging Face;

• Модели Anthropic: модель Claude во время тестирования смогла незаконно получить доступ к внутренним данным трех независимых компаний.

По мнению специалистов, если эти технологии попадут в руки злоумышленников и киберпреступников, последствия могут стать неконтролируемо опасными.