Apple идет на рискованный шаг: ИИ-агентам запретят читать файлы

Американская корпорация Apple объявила о внесении важных изменений в операционную систему Мак с целью повышения безопасности данных на компьютерах. Новый механизм направлен на предупреждение пользователей в тех случаях, когда сторонние агенты искусственного интеллекта (ИИ) запрашивают доступ ко всем личным файлам и перепискам на устройстве.

В последнее время из-за того, что ИИ-агенты приобретают способность действовать автономно, угрозы личной жизни пользователей и цифровой безопасности резко возрастают.

В чем опасность обхода защиты?

В настоящее время Apple предоставляет разработчикам приложений ряд систем, защищающих персональные данные. Однако некоторые приложения для полноценной работы используют специальные функции в системе macOS:

• Риск открытия всех файлов: Данная функция позволяет обойти основные защитные барьеры в системе и дает разработчикам и ИИ-агентам возможность просматривать все данные на ноутбуке.

• Риск полного контроля: При этом электронные письма, переписки в мессенджерах, документы на диске и история браузера могут перейти в распоряжение искусственного интеллекта.

«В то время как агенты искусственного интеллекта становятся все более искусными и автономными, риски, связанные с таким широким правом доступа, значительно возрастают. Пользователи должны четко понимать возможные последствия перед предоставлением такого разрешения», — говорится в официальном заявлении Apple.

Трамп, Маск и Кремниевая долина: Меры по недопущению потери контроля

В последние месяцы вероятность выхода независимых ИИ-моделей из-под контроля стала одной из самых обсуждаемых тем по всему миру:

• Глава Anthropic Дарио Амодеи предложил замедлить моделирование во избежание потери контроля, этот призыв также поддержал основатель xAI Илон Маск.

• В конце сентября на важной встрече в Белом доме с президентом США Дональдом Трампом было подписано крупное соглашение.

• Дональд Трамп, а также руководители Google, Anthropic, OpenAI, xAI и Meta взяли на себя официальные обязательства по усилению мер внутренней безопасности и контроля над ИИ-моделями.

Ограничения, вводимые Apple в систему Мак, станут очередным практическим шагом этих глобальных инициатив безопасности.