Безопасность искусственного интеллекта: Google также ищет новые решения
Операционный директор Google Cloud Фрэнсис де Соуза на одном из мероприятий в Лос-Анджелесе поделился мнением о проблемах безопасности, с которыми сталкиваются компании в нынешнюю эпоху искусственного интеллекта (ИИ). Он подчеркнул, что сейчас все, даже такие технологические гиганты, как Google, проходят процесс изучения и адаптации к безопасности ИИ в режиме реального времени. Де Соуза отметил, что безопасность должна быть не элементом, добавляемым в конце проекта, а неотъемлемой частью стратегии с самого начала. Об этом сообщает Techcrunch.com.
По словам эксперта, компаниям следует опасаться риска «shadow AI» — использования сотрудниками различных потребительских инструментов без контроля организации. «Не существует стратегии ИИ без стратегии данных и стратегии безопасности. Они всегда должны идти рука об руку», — говорит де Соуза. Он также отметил, что скорость современных кибератак резко возросла: время между взломом и следующей стадией атаки сократилось с 8 часов до 22 секунд.
Еще одной серьезной угрозой были названы ИИ-агенты, перемещающиеся внутри внутренних систем компании. Эти агенты могут находить забытые за долгие годы старые серверы SharePoint и базы данных с необновленными мерами безопасности, что может привести к утечке конфиденциальной информации. Чтобы противостоять таким быстрым угрозам, де Соуза предлагает отвечать «машинной скоростью на машинную скорость», то есть перейти к полностью агентным системам защиты.
Директор по информационной безопасности LinkedIn Лиа Киснер также поддержала эти мысли, заявив, что специалистам отрасли в ближайшие годы придется бороться с волной уязвимостей, вызванных ИИ — «bug-pocalypse». Эта проблема стала стратегическим вопросом, который должен решаться не только техническими командами, но и на уровне руководства компании и совета директоров.
