Ограничения искусственного интеллекта мешают работе специалистов по кибербезопасности

С развитием технологий искусственного интеллекта (AI) крупные технологические корпорации внедряют строгие системы защиты (гуардраилс), чтобы ограничить использование своих моделей в злонамеренных целях. Однако эти барьеры, направленные на предотвращение хакерских атак, теперь создают серьезные проблемы не только для киберпреступников, но и для легитимных исследователей и инженеров по безопасности, защищающих системы. Об этом сообщает Techcrunch.ком сообщает .

В последние месяцы ведущие компании, такие как OpenAI и Anthropic, запустили специальные программы проверки для обеспечения безопасности своих моделей. Например, модели Mythos и Fable от Anthropic ранее попали под экспортный контроль правительства США из-за опасений, что они могут быть использованы для проведения кибератак. Хотя позже эти ограничения были частично смягчены, представители сферы кибербезопасности отмечают, что такой подход ослабляет защитные системы.

Тонкая грань между защитой и атакой

Исследователям кибербезопасности часто приходится мыслить как хакеры и использовать соответствующие инструменты для выявления и устранения уязвимостей в системах. Согласно отчету TechCrunch, когда многие специалисты отправляют запросы АИ-моделям на анализ кода и поиск ошибок, система классифицирует это как «опасное действие» и отказывается отвечать.

Как объясняет главный научный сотрудник НКК Груп Крис Энли, команда на «исправление» программного кода может служить руководством как для защиты, так и для атаки. «Один и тот же инструмент выступает и как оружие атаки, и как средство защиты, и их невозможно разделить. Если АИ-модель отказывается анализировать код, это затрудняет работу защитников», — говорит эксперт.

Субъективные решения компаний

Известный исследователь безопасности Марк Дауд считает, что самостоятельное определение частными компаниями того, что является безопасным, а что опасным, негативно сказывается на развитии отрасли. Он подчеркивает, что технологические гиганты устанавливают произвольные ограничения, не учитывая сложные аспекты кибербезопасности.

В настоящее время OpenAI через программу Трустед Аккесс фор Кйбер, а Anthropic через Кйбер Верификатион Програм разрешают доступ к моделям с пониженными ограничениями только организациям, прошедшим специальную проверку. Однако такая политика «закрытых дверей» ограничивает возможности независимых исследователей.

В условиях Узбекистана кибербезопасность также становится все более актуальной темой. Столкновение местных специалистов с подобными барьерами при использовании глобальных АИ-моделей может замедлить процесс защиты информационных систем страны. Ведь для противодействия современным кибератакам специалисты должны иметь полный доступ к самым передовым интеллектуальным инструментам.