Reddit использует технологию LLM для борьбы с искусственным интеллектом

В интернет-пространстве рост количества спама, созданного с помощью искусственного интеллекта, стал серьезной проблемой для крупных платформ. Социальная сеть Reddit объявила о внедрении технологии Ларге Лангуаге Моделс (LLM) для борьбы с этой угрозой. Это своего рода метод «борьбы огнем с огнем», при котором платформа теперь использует более умные алгоритмы для обнаружения контента, сгенерированного ботами. Об этом сообщает Techcrunch.ком сообщает .

Популяризация ChatGPT и других нейросетей в последние годы позволила злоумышленникам создавать спам-контент в беспрецедентных масштабах. Если предыдущие фильтры легко блокировали простые и повторяющиеся тексты, то сообщения, написанные с помощью современных моделей LLM, отличаются высокой степенью сходства с человеческой речью. По данным Reddit, платформа ежедневно блокирует около 23 миллионов спам-просмотров и выявляет более 25 тысяч новых спам-постов и комментариев.

Новый этап технологической борьбы

В своем блоге Reddit отмечает, что обновленные инструменты позволяют выявлять «тонкие и скоординированные модели фальшивого поведения», которые не могли заметить старые системы. Это доказало свою эффективность, особенно в борьбе с попытками искусственной популяризации тем (хайпа) или скрытого проведения рекламных кампаний. В первом квартале текущего года компании удалось снизить уровень столкновения пользователей со спамом на 20 процентов по сравнению с последним кварталом прошлого года.

Другие крупные платформы также подходят к этой проблеме по-разному. Например, YouTube, Meta и Instagram позволяют пользователям размещать контент, созданный с помощью искусственного интеллекта, на определенных условиях. TikTok же предоставляет пользователям возможность настраивать количество АИ-контента, который они хотят видеть в своих лентах. Reddit же сосредоточился на безопасности пользователей и чистоте платформы.

Человеческий фактор и будущие риски

Внедрение технологии LLM помогает быстрее выявлять не только спам, но и язык вражды (хате спич) и другие виды контента, нарушающие правила. Однако эксперты отрасли предупреждают, что полагаться исключительно на алгоритмы опасно. Для достижения наиболее эффективного результата системы искусственного интеллекта обязательно должны работать под контролем модераторов-людей.

Эта новость также актуальна для пользователей социальных сетей в сегменте Узбекистана. Усиление борьбы со спамом на глобальных платформах обеспечивает получение более качественной и достоверной информации для местной аудитории. Опыт Reddit показывает, что проблему, вызванную технологией, можно решить только с помощью еще более продвинутых технологий.