Reddit nutzt LLM-Technologie im Kampf gegen KI

Die Zunahme von KI-generiertem Spam ist zu einem ernsten Problem für große Plattformen im Internet geworden. Das soziale Netzwerk Reddit gab bekannt, dass es die Large Language Models (LLM) Technologie einsetzt, um diese Bedrohung zu bekämpfen. Dies ist eine einzigartige Methode, um "Feuer mit Feuer zu bekämpfen", bei der die Plattform nun intelligentere Algorithmen verwendet, um von Bots generierte Inhalte zu erkennen. Dies berichtet Techcrunch.com berichtet .

In den letzten Jahren hat die Popularität von ChatGPT und anderen neuronalen Netzen es böswilligen Akteuren ermöglicht, eine beispiellose Menge an Spam-Inhalten zu erstellen. Während frühere Filter einfache und wiederkehrende Texte leicht stoppen konnten, zeichnen sich Nachrichten, die mit modernen LLM-Modellen verfasst wurden, durch ihre große Ähnlichkeit mit menschlicher Sprache aus. Laut Reddit blockiert die Plattform täglich fast 23 Millionen Spam-Aufrufe und identifiziert über 25.000 neue Spam-Beiträge und Kommentare.

Eine neue Stufe des technologischen Kampfes

Reddit betonte in seinem Blog, dass die aktualisierten Tools es ermöglichen, "subtile und koordinierte inauthentische Verhaltensmuster" zu erfassen, die ältere Systeme nicht erkennen konnten. Dies hat sich besonders bei Versuchen als effektiv erwiesen, ein Thema künstlich zu pushen (Hype) oder verdeckte Werbekampagnen durchzuführen. Das Unternehmen konnte die Spam-Belastung der Nutzer im ersten Quartal dieses Jahres um 20 Prozent gegenüber dem letzten Quartal des Vorjahres senken.

Andere große Plattformen gehen unterschiedlich mit diesem Problem um. YouTube, Meta und Instagram erlauben es Nutzern beispielsweise, KI-generierte Inhalte unter bestimmten Bedingungen zu veröffentlichen. TikTok bietet Nutzern die Möglichkeit, anzupassen, wie viele KI-Inhalte sie in ihren Feeds sehen möchten. Reddit konzentriert sich hingegen auf die Sicherheit der Nutzer und die Sauberkeit der Plattform.

Der menschliche Faktor und zukünftige Risiken

Die Einführung der LLM-Technologie hilft dabei, nicht nur Spam, sondern auch Hassrede (Hate Speech) und andere regelwidrige Inhalte schneller zu identifizieren. Branchenexperten warnen jedoch davor, sich ausschließlich auf Algorithmen zu verlassen. Um die effektivsten Ergebnisse zu erzielen, müssen KI-Systeme unbedingt mit der Aufsicht durch menschliche Moderatoren zusammenarbeiten.

Diese Nachricht ist auch für Nutzer sozialer Netzwerke im usbekischen Segment von Bedeutung. Die Verschärfung der Spam-Bekämpfung auf globalen Plattformen stellt sicher, dass auch das lokale Publikum qualitativ hochwertigere und zuverlässigere Informationen erhält. Die Erfahrung von Reddit zeigt, dass ein durch Technologie verursachtes Problem nur mit noch fortschrittlicherer Technologie gelöst werden kann.