Переписки пользователей Claude попали в поиск Google

Безопасность сервисов искусственного интеллекта и конфиденциальность пользователей снова оказались в центре серьезных обсуждений. По данным издания 404 Медиа и пользователей социальных сетей, выяснилось, что часть публичных чатов в нейросети Claude, а также созданных пользователями мини-приложений Артифактс была открыто проиндексирована в поисковой системе Google. Эта ситуация вызвала серьезные опасения по поводу безопасности личных данных. Об этом сообщает Techcrunch.ком сообщает .

Проблема оказалась связана с функцией сервиса «шаре чат» (поделиться чатом). Эта возможность позволяет пользователям делиться своими проектами или беседами с другими с помощью специальной ссылки. Хотя в интерфейсе было предупреждение о том, что любой человек, имеющий ссылку, может ее просмотреть, многие не предполагали, что эти данные останутся открытыми для всего интернета и попадут в поисковые системы.

Раскрытие конфиденциальной информации

Наблюдения, проведенные изданиями TechCrunch и Футурисм, показали, что среди проиндексированных поисковой системой страниц оказался и весьма деликатный, конфиденциальный контент. В частности, были обнаружены подробный медицинский отчет реального пациента, результаты клинических испытаний с указанием имен пациентов, а также имена и телефонные номера учеников младших классов. Кроме того, стало известно, что документы компаний, предназначенные исключительно для внутреннего использования, также стали доступны общественности.

Кроме того, среди попавших в открытый доступ документов Артифактс были обнаружены различные коды программирования, рабочие заметки, а как и сгенерированные искусственным интеллектом тексты эротического характера. Как сообщает издание Фортуне, в одной из таких бесед было запечатлено, как Claude вопреки собственным правилам компании создал откровенный эротический контент, что нарушает политику Anthropic.

Реакция компаний и устранение проблемы

Представители Anthropic в комментарии изданию TechCrunch заявили, что подобные ссылки попадают в результаты поиска только в том случае, если пользователи сами размещают их в местах, доступных для поисковых систем, таких как форумы или социальные сети. По словам представителя компании Эми Ротерман, они не делятся каталогами чатов или картами сайтов с поисковыми системами вроде Google, однако если пользователь делает информацию общедоступной, она может быть заархивирована сторонними сервисами.

В свою очередь, представитель Google Нед Адрианс подчеркнул, что поисковая система не контролирует популярность веб-страниц, а поисковики всегда следуют инструкциям, заданным владельцами сайтов. Этот сбой, обнаруженный в субботу пользователем Reddit и широко освещенный в понедельник, был оперативно устранен. Тестовые поисковые запросы, выполненные с понедельника, не дали никаких результатов, что указывает на успешное устранение проблемы.