В Китае на фоне бедствий усилилась еще одна угроза: фейковые видео, созданные с помощью ИИ

В последние месяцы на фоне борьбы с природными катастрофами Китай столкнулся с еще одной серьезной проблемой — массовым распространением фейковых видеороликов, созданных с помощью искусственного интеллекта (ИИ). Ситуация после тайфуна «Кэми» (в тексте — «Ноул»), обрушившегося на территорию страны в конце недели, сделала эту проблему еще более актуальной.

Вслед за мощными штормами и наводнениями в социальных сетях появилось множество недостоверных фото и видео. Среди них — фальшивые кадры с телами, уносимыми потоками воды, видеоматериалы о затоплении районов, которые на самом деле не пострадали, а также намеренно сфабрикованные ролики о спасательных работах.

В некоторых регионах распространение ложных видеороликов об отключениях электроэнергии вызвало панику среди населения, в результате чего люди бросились массово скупать товары первой необходимости в чрезвычайных объемах.

В некоторых случаях фальшивые видео были подготовлены с использованием реальных событий. Например, в начале июля в результате наводнения в городе Хэньчжоу Гуанси-Чжуанского автономного района сотни змей выбрались из специального хозяйства. После этого инцидента в соцсетях стали распространяться поддельные кадры о том, что в реку якобы выпустили и крокодилов.

В условиях продолжающейся масштабной эвакуации и сложных спасательных работ правительство не желает усиления паники среди населения. Официальные лица отмечают, что технологии искусственного интеллекта, в которые Китай инвестирует миллиарды долларов, теперь превращаются в руках отдельных лиц в инструмент дезинформации общественности.

Как сообщил один из руководителей отдела интернет-безопасности полиции провинции Чжэцзян Хуан Чжисюань, многие создатели контента стремятся набрать больше подписчиков за счет сенсационных новостей о бедствиях. По их мнению, чем сенсационнее или преувеличеннее контент, тем больше просмотров и лайков можно собрать. Именно поэтому некоторые намеренно искажают информацию ради привлечения внимания людей.

В последние недели в отношении лиц, создававших фейковые новости и видео, был принят ряд мер. Ожидается, что некоторые из них будут привлечены к уголовной ответственности, а к другим применены штрафы или административные наказания.

Специалисты предупреждают, что дезинформация, распространяемая с помощью ИИ, может достичь беспрецедентного уровня. Профессор Центральной партийной школы Коммунистической партии Чэнь Бинь отметил, что искусственный интеллект резко снизил технические барьеры для производства ложной информации. Теперь не требуется специальных знаний — с помощью простого запроса можно за короткое время создать текст, изображения, аудио и видео, которые выглядят убедительно, но являются абсолютно фальшивыми.

По мнению профессора Восточно-Китайского политехнического университета права и политологии Гао Фупина, распространение подобных материалов вызвано различными факторами. Одни воспринимают это как шутку, другие преследуют личную выгоду или стремятся повысить интернет-трафик. Еще одна категория ставит своей целью вызвать страх и нестабильность в обществе.

Он отметил, что некоторые интернет-пользователи считают, будто в онлайн-пространстве можно оставаться анонимными или их невозможно вычислить. На самом деле правоохранительные органы внимательно отслеживают подобные случаи.

Эксперты также выдвигают предложения о нанесении специальных меток на контент, созданный с помощью ИИ. Однако проблема заключается в том, что эти метки впоследствии могут быть легко отредактированы и удалены.

Профессор Пекинского педагогического университета Сюй Сяокэ в свою очередь подчеркнул необходимость дальнейшего усиления систем проверки геолокации, временных меток и источников изображений. При этом он отметил, что технологии обнаружения материалов, созданных с помощью ИИ, пока отстают от технологий их создания.

По его словам, этот процесс напоминает бесконечную «игру в кошки-мышки». Поэтому ошибочно полагать, что сама технология способна одним нажатием кнопки выявить все фальшивые материалы.

Правительство Китая продолжает крупные инвестиции в сферу искусственного интеллекта с целью превратить страну в ведущую технологическую державу мира. В 2017 году ИИ был объявлен главным драйвером развития страны. Сегодня, по данным государственного информационного агентства, в стране функционирует более 6 тысяч компаний в сфере искусственного интеллекта.

По мнению профессора Сюя, в этих условиях Китай должен сформировать надежную информационную инфраструктуру. Эта система должна включать в себя официальные платформы предупреждения, интерфейсы для чрезвычайных ситуаций и оперативные источники информации для СМИ.

Однако в некоторых случаях смягчение информации о стихийных бедствиях со стороны самих официальных источников приводило к падению доверия общественности. Например, в июле местным журналистам было рекомендовано освещать крупную трещину в стене плотины Люлань близ Наньниня не как «прорыв», а как «открытие» или «щель». Впоследствии в результате этой катастрофы погибли по меньшей мере 26 человек.

Это далеко не первый случай. В 2021 году в провинции Хэнань местных чиновников обвинили в сокрытии или преуменьшении информации о гибели 139 граждан.

По мнению экспертов, именно такие ситуации подрывают доверие общественности и создают возможности для злоумышленников легко распространять дезинформацию.

Тем не менее, полиция призывает население в чрезвычайных ситуациях доверять только официальным и проверенным источникам. Представитель Управления общественной безопасности Нинбо Гао Кай подчеркнул, что к сообщениям о бедствиях из неизвестных источников следует относиться скептически и полагаться на официальную информацию.

Он отметил, что интернет — это не беззаконная территория. Правоохранительные органы посредством специальных групп ведут постоянный мониторинг социальных сетей, особенно платформ коротких видео, и будут принимать строгие меры в отношении нарушителей.

Управление киберпространства Китая также объявило, что 23 июля по всей стране начался масштабный рейд против дезинформации о наводнениях и других бедствиях. Особое внимание в нем уделяется случаям создания фейковой статистики, смонтированных видеороликов, постановочных сюжетов, выдачи архивных кадров за свежие события и фальшивых выступлений от имени официальных лиц. Социальным сетям также было поручено проводить более жесткую модерацию контента.

По мнению профессора Гао Фупина, наиболее эффективным решением проблемы является обучение населения информационной грамотности и строгое применение законодательства. Он подчеркнул, что сам по себе ИИ не является угрозой — главный вопрос заключается в том, с какими целями люди его используют.

Однако профессор Чэнь Бинь придерживается иного мнения. Он заявил, что технологии искусственного интеллекта развиваются гораздо быстрее правовой базы. По мере возникновения новых юридических вопросов дезинформация, распространяемая через ИИ, может еще долгое время оставаться серьезной проблемой.

Юрист Питер Пан, ведущий практику в Шанхае и Вашингтоне, в свою очередь отметил, что юридическую ответственность должны нести не только лица, создавшие фальшивые материалы, но и компании-разработчики программ ИИ, а также платформы, на которых они распространялись.

По заключению экспертов, в будущем выборы, общественное здравоохранение, вооруженные конфликты, стихийные бедствия и другие темы, затрагивающие жизнь населения, могут стать наиболее уязвимыми сферами для ложной информации, распространяемой с помощью ИИ. Именно поэтому правительствам и интернет-платформам необходимо готовиться заранее, а не после того, как проблема уже распространится.