OpenAI представила режим Lockdown Mode для защиты от кибератак

Компания OpenAI анонсировала новую функцию Lockdown Mode для пользователей ChatGPT. Этот режим разработан для дополнительной защиты чат-бота от скрытых вредоносных инструкций в веб-страницах и других источниках контента — атак типа «промпт инджектион». Об этом сообщает Techcrunch.ком сообщает .

При включении Lockdown Mode ряд возможностей системы ограничивается. В частности, отключается живой веб-браузинг, разрешается использование только данных из кэша. Также временно приостанавливаются функции поиска и отображения изображений из интернета, Дип Ресеарч и Агент Моде. Стоит отметить, что пользователи по-прежнему смогут генерировать изображения.

По словам представителей компании, даже при включенном режиме ChatGPT может быть не полностью безопасным. Вредоносные команды могут сохраняться в кэшированном контенте или загруженных файлах и влиять на точность ответов. Однако главная цель — максимально снизить риск утечки конфиденциальных данных.

OpenAI подчеркивает, что Lockdown Mode предназначен не для всех пользователей. В первую очередь он полезен организациям и лицам, работающим с крайне важными данными и желающим строгой защиты от эксфильтрации информации. В настоящее время эта функция поэтапно внедряется для ChatGPT Бусинесс и некоторых личных аккаунтов.