Глава Signal предупреждает: чат-боты с AI — не ваши друзья

Президент мессенджера Signal Мередит Уиттакер выступила с серьезным заявлением об опасностях чрезмерного доверия к технологиям искусственного интеллекта и передачи им личных данных. По ее словам, такие системы, как ChatGPT или Claude, являются не близкими доверенными лицами или сознательными собеседниками, а инструментами по обработке огромных баз данных. Подробно об этом говорилось в интервью изданию Bloomberg. Об этом сообщает Techcrunch.ком сообщает сообщает.

Мередит Уиттакер подчеркнула, что категорически против приравнивания AI к человеческому сознанию. «Это не ваши друзья. Они не являются сознательными существами или собеседниками с чувствами», — отметила она. Глава Signal признала, что сама иногда использует эти технологии для форматирования документов, однако заявила, что никогда не задает им вопросов и не доверяет машинам свой мыслительный процесс.

Вопрос конфиденциальности и контроля

В ходе интервью также обсуждался прогноз главы Microsoft AI Мустафы Сулеймана об использовании Microsoft Copilot для совершения рождественских покупок. По мнению Уиттакер, передача таких задач AI означает предоставление полного доступа к банковским картам пользователя, истории браузера, личной переписке и домашнему адресу. С точки зрения цифровой безопасности это представляет огромный риск.

Глава Signal обеспокоена тем, что подобные системы могут отслеживать беседы в семейных группах и отправлять сообщения от имени пользователя. Она отметила, что система, имеющая широкий доступ к множеству приложений и сервисов, уничтожает неприкосновенность частной жизни. В контексте мессенджера Signal такие случаи могут сработать как своего рода «бэкдор» (бакдур), ослабляя систему безопасности.

Уиттакер отметила, что очень серьезно относится к процессу своего мышления и письма. Она не хочет, чтобы процесс формирования новых идей был вытеснен системами, которые просто обобщают существующие данные. По ее мнению, ответы AI часто представляют собой среднее значение информации из интернета, что может убить индивидуальный творческий подход человека.

Это предупреждение актуально и для пользователей из Узбекистана. В то время как использование ChatGPT и других ботов становится все более популярным в нашей стране, доверие личных данных, банковских реквизитов и секретной переписки сторонним системам может открыть путь для кибермошенничества. Как отметила глава Signal, какими бы удобными ни были технологии, они не должны нарушать личные границы.

Резюмируя, Мередит Уиттакер призвала пользователей быть бдительными по отношению к «умным помощникам», предлагаемым цифровыми гигантами. По ее мнению, единственный способ сохранить конфиденциальность — не предоставлять AI все данные в открытом виде и использовать его возможности исключительно как технический инструмент.