Безопасность ИИ: Claude использовали в биологических исследованиях

Стремительное развитие технологий искусственного интеллекта открывает не только новые возможности, но и создает серьезные угрозы безопасности. Компания Anthropic, разработчик популярной нейросети Claude, в своем последнем отчете сообщила о выявлении нескольких опасных случаев, когда ИИ потенциально использовался в исследованиях, направленных на создание биологического оружия. Об этом Иксбт.ком сообщает.

Согласно данным иксбт.ком, эти инциденты были зафиксированы в период с декабря 2025 года по август 2026 года. Основной проблемой стала сложность определения истинных намерений исследований в процессе коммуникации, поскольку одни и те же научные знания могут служить как для создания полезных лекарственных средств, так и для разработки крайне опасных патогенов.

Опасные биологические исследования и скрытые попытки

В одном из выявленных случаев исследователи работали над вирусом чикунгунья, передающимся через комаров. Система защиты Claude заблокировала запрос, направленный на подготовку заявки на грант по усилению функций вируса. После того как выяснилось, что за запросом стоит военное научно-исследовательское учреждение, Anthropic ограничила доступ к сервису, однако ученые продолжили работу через другие каналы.

Анализ показал, что пользователи применяли различные инструменты для обхода моделей с более строгими механизмами безопасности. В частности:

• Была обнаружена посредническая платформа, перенаправляющая отклоненные биологические запросы на другие модели ИИ с более слабыми ограничениями безопасности.
• В исследовании по высокопатогенному птичьему гриппу ученые в течение нескольких недель планировали эксперименты с помощью Claude, а затем продолжили работу через менее мощные версии.

Также сообщается еще о трех случаях, связанных с ортопоксвирусами, различными ядовитыми соединениями и токсинами.

Кибербезопасность и активность Миднигхт Близзард

В отчете Anthropic отмечается, что искусственный интеллект злоупотребляли не только в биологических сферах, но и в киберпреступлениях. Компания связала одну из выявленных киберопераций с группировкой Миднигхт Близзард, которую считают связанной с российскими хакерами.

В рамках этой кампании искусственный интеллект использовался для автоматизации фишинговых атак, подготовки сетевой инфраструктуры, создания вредоносного ПО и кражи данных. Подобные действия были направлены против более чем 20 организаций, принадлежащих государственным, дипломатическим и оборонным структурам Украины и стран Европы.

Специалисты Anthropic подчеркивают, что по мере расширения возможностей ИИ в научном анализе вероятность злоупотреблений также возрастает. Компания заблокировала опасные аккаунты, передала данные в соответствующие органы и еще больше усилила ограничения по биологическим запросам высокого риска.