Apple и Google обязали удалить приложения, которые «раздевают» людей с помощью AI

Власти Сан-Франциско потребовали от Apple и Google немедленно удалить из своих магазинов приложений десятки программ, которые используют AI для цифрового изменения фотографий людей и создания их изображений в обнаженном виде (нудифй). Эта мера является важной частью борьбы с дипфаке-контентом, создаваемым с помощью AI, который унижает человеческое достоинство. Об этом сообщает Techcrunch.ком сообщает об этом.

Согласно законодательству штата Калифорния, содействие распространению порнографических дипфаке-материалов, созданных без согласия, или намеренное упрощение таких процессов влечет за собой уголовную ответственность. По данным издания TechCrunch, прокуратура Сан-Франциско обвиняет обоих технологических гигантов в получении прибыли от этих незаконных приложений и пренебрежении безопасностью пользователей.

Ответственность технологических гигантов и финансовые интересы

Прокурор Сан-Франциско Дэвид Чиу в официальном письме к Apple и Google подчеркнул, что эти платформы получают миллионные комиссии от приложений, нарушающих права женщин и девушек. Несмотря на то, что компании удалили некоторые проблемные программы, прокуратура обвинила их в недостаточной активности по предотвращению появления такого контента.

Сообщается, что организация Теч Транспаренкй Проджект (ТТП) представила отчет о наличии десятков таких приложений в магазинах Apple и Google в период с января по апрель текущего года. В отчетах указано, что компании не только размещали эти приложения, но и получали прибыль от незаконных продаж, обрабатывая платежи за встроенные покупки.

Правовые последствия и меры безопасности

Новый закон, который вступит в силу в Калифорнии в 2025 году, позволит жертвам подавать гражданские иски против сторонних платформ, способствовавших распространению таких материалов. В интервью изданию Виред прокурор Дэвид Чиу предупредил, что Apple и Google могут столкнуться с серьезными штрафами за нарушения.

Если раньше проблемы, связанные с технологиями дипфаке, касались в основном известных женщин и артистов, то сейчас такие приложения позволяют нацеливаться на любую фотографию в открытом доступе. Это создает серьезную угрозу безопасности обычных пользователей, особенно несовершеннолетних девушек. Власти установили компаниям срок в 28 дней для решения этой проблемы и предоставления отчета.

В то время как в Узбекистане также растет число случаев создания фейкового контента и мошенничества с помощью AI, такие решительные меры на мировом технологическом рынке имеют важное значение для формирования культуры цифровой безопасности. На данный момент Apple и Google не дали официального ответа на эти требования.