Инструменты искусственного интеллекта массово записывают разговоры без предупреждения

Стремительное проникновение современных инструментов искусственного интеллекта в повседневную жизнь позволяет пользователям автоматически записывать и анализировать общение, однако этот процесс часто происходит без ведома собеседников. Как пишет издание Те Валл Стрит Джурнал, благодаря тому, что функция фоновой записи стала невероятно простой, данные технологии начали широко применяться не только на рабочих совещаниях, но и в личных беседах. Об этом сообщает Иксбт.ком сообщает .

В частности, сервис Granola, привлекший в текущем году 125 миллионов долларов инвестиций и оцениваемый в 1,5 миллиарда долларов, записывает звук напрямую через микрофон устройства. Он не подключается к звонку в качестве отдельного участника, в результате чего в беседе не появляется видимый бот и автоматически не отправляется уведомление. Такой подход резко отличается от привычных сервисов видеоконференций.

Риски личной жизни и конфиденциальности

Опасения усиливаются тем фактом, что пользователи новых технологий начинают применять их и за пределами рабочей среды. Основательница стартапа Юзу Лабс Эмм Чанг в интервью изданию рассказала, что записывает первые встречи, а затем передает их текстовые расшифровки сервису Claude для анализа. Кроме того, другие пользователи сообщили, что записывают визиты к врачу, сеансы у терапевта и встречи с друзьями без предупреждения собеседников.

В 11 штатах США, включая Калифорнию, Флориду, Иллинойс и Пенсильванию, запись разговора без согласия всех участников является правонарушением и в некоторых случаях может повлечь за собой уголовную ответственность. Эта проблема оказывает свое влияние и на корпоративную среду.

Юридические риски и когнитивные последствия

Руководители компаний и специалисты по информационной безопасности предупреждают, что подобные незаметные «стенографисты на базе искусственного интеллекта» могут порождать серьезные юридические риски. Например, были зафиксированы случаи, когда даже после завершения официальных видеовстреч записывающие устройства не отключались и сохраняли неформальные беседы сотрудников.

Помимо вопросов конфиденциальности, исследователи изучают и другие негативные эффекты фиксации данных с помощью искусственного интеллекта. Исследования, направленные на снижение когнитивной нагрузки, показывают, что чрезмерная зависимость от таких технологий приводит к снижению способности самостоятельно обрабатывать информацию и критически мыслить.