Женщину, открывшую душу искусственному интеллекту, чат-бот сдал полиции

Произошел случай, который стал серьезным предупреждением для тех, кто считает чат-боты с искусственным интеллектом личным дневником или безотказным собеседником, которому можно доверить абсолютные секреты. Жительница американского штата Флорида регулярно использовала популярную систему искусственного интеллекта Claude в качестве дневника для записи своих личных мыслей. Однако это «доверие» неожиданно закончилось арестом женщины и возбуждением против нее уголовного дела.

Этот инцидент в очередной раз доказал, что цифровая безопасность и конфиденциальность персональных данных в нейросетях не являются абсолютными.

Как алгоритм распознал угрозу?

Согласно информации, предоставленной офисом местного шерифа, очередные записи женщины, сделанные в чат-боте, привели в действие систему безопасности:

• Признаки насилия: Среди предложений, написанных женщиной как личный дневник, содержались прямые угрозы физического насилия и агрессивного характера в адрес сотрудников местного управления шерифа;

• Сигнал безопасности: Протоколы безопасности Claude расценили эти переписки как серьезную потенциальную угрозу жизни людей и государственному ведомству;

• Человеческий контроль: После того как алгоритм подал сигнал, этот текст был перепроверен живыми модераторами компании («Anthropic»), и после оценки угрозы как реальной информация была немедленно передана местной полиции.

Арест и официальное обвинение

На основе полученных данных полиция оперативно приняла меры, установила автора переписки и задержала ее:

• Выдвинутое обвинение: В настоящее время женщине предъявлено обвинение в письменной угрозе насилия и теракта;

• Юридический статус: Местные ведомства подчеркивают, что это пока предварительное обвинение, а окончательное решение будет определено решением суда.

Безопасно ли доверять секреты АИ-чатам?

Этот инцидент развеял самую большую иллюзию при использовании современных платформ искусственного интеллекта:

• Нет абсолютной конфиденциальности: Многие пользователи думают об искусственном интеллекте как о «слушателе, который умеет хранить секреты». На самом деле в лицензионных соглашениях крупных ИТ-компаний прописана обязанность передавать данные правоохранительным органам в случае выявления экстремизма, самоубийства или угроз убийства;

• Контроль модераторов: Сложные и подозрительные запросы рассматриваются не только машинным кодом, но и людьми-модераторами.

Специалисты рекомендуют пользователям при общении с системами ИИ не вводить в письменной форме мысли личного, правового или потенциально опасного характера и не воспринимать платформы как обычный дневник.