Eine weitere Gefahr bei Katastrophen in China: KI-Fälschungsvideos

In den letzten Monaten, während China gegen Naturkatastrophen kämpft, sieht sich das Land mit einem weiteren ernsten Problem konfrontiert: der weiten Verbreitung von gefälschten Videos, die mithilfe künstlicher Intelligenz (KI) erstellt wurden. Die Situation nach dem Taifun „Noul“, der am Wochenende das Land erreichte, hat dieses Problem noch dringlicher gemacht.

Infolge schwerer Stürme und Überschwemmungen kursierten zahlreiche irreführende Fotos und Videos in den sozialen Medien. Darunter befanden sich gefälschte Bilder von im Wasser treibenden Leichen, Videos über angebliche Überschwemmungen in eigentlich verschonten Gebieten sowie gezielt gefälschte Aufnahmen von Rettungseinsätzen.

Die Verbreitung falscher Videos über Stromausfälle in bestimmten Regionen löste Panik unter der Bevölkerung aus, woraufhin die Menschen massenhaft Notvorräte aufkauften.

In einigen Fällen wurden gefälschte Videos unter Verwendung realer Ereignisse erstellt. So entwichen beispielsweise Anfang Juli nach einer Überschwemmung in der Stadt Hancheng in der Provinz Guangxi Hunderte Schlangen aus einer Spezialzucht. Nach diesem Vorfall wurden gefälschte Bilder in sozialen Medien verbreitet, wonach auch Krokodile in den Fluss ausgesetzt worden seien.

Während großflächige Evakuierungen und komplexe Rettungsarbeiten andauern, möchte die Regierung eine Zunahme der Panik in der Bevölkerung vermeiden. Beamten zufolge entwickeln sich KI-Technologien, in die China Milliarden von Dollar investiert, nun in den Händen einzelner Personen zu einem Werkzeug zur Täuschung der Öffentlichkeit.

Xuan Zhixuan, einer der Leiter der Abteilung für Internetsicherheit der Polizei in der Provinz Zhejiang, erklärte, dass viele Content-Ersteller durch reißerische Berichte über Katastrophen mehr Abonnenten gewinnen wollen. Ihrer Meinung nach gilt: Je sensationeller oder übertriebener der Inhalt, desto mehr Aufrufe und Likes lassen sich erzielen. Daher fälschen einige Informationen absichtlich, um die Aufmerksamkeit der Menschen auf sich zu ziehen.

In den letzten Wochen wurden eine Reihe von Maßnahmen gegen Personen ergriffen, die gefälschte Nachrichten und Videos produziert haben. Einige werden voraussichtlich strafrechtlich verfolgt, während andere mit Geldstrafen oder Verwaltungsstrafen belegt wurden.

Experten warnen indessen, dass die durch KI verbreitete Desinformation ein beispielloses Ausmaß erreichen könnte. Chen Bin, Professor an der Zentralen Parteischule der Kommunistischen Partei, betonte, dass künstliche Intelligenz die technischen Hürden für die Erzeugung von Falschinformationen drastisch gesenkt habe. Spezielles Wissen sei nicht mehr erforderlich – durch eine einfache Anfrage lassen sich Text, Bilder, Audio und Video in kurzer Zeit überzeugend, aber völlig gefälscht erstellen.

Gao Fupin, Professor an der Politik- und Rechtsuniversität Ostchina, ist der Ansicht, dass verschiedene Faktoren zur Verbreitung solcher Materialien beitragen. Während manche dies als Scherz auffassen, handeln andere aus persönlichen Motiven oder zur Steigerung des Internet-Traffics. Eine weitere Gruppe zielt darauf ab, Angst und Instabilität in der Gesellschaft zu erzeugen.

Er betonte, dass einige Internetnutzer glauben, sie könnten im Online-Raum anonym bleiben oder würden nicht entdeckt werden. Tatsächlich überwachen die Strafverfolgungsbehörden solche Fälle jedoch genau.

Experten schlagen zudem vor, KI-generierte Inhalte mit speziellen Kennzeichnungen zu versehen. Das Problem ist jedoch, dass diese Kennzeichnungen nachträglich bearbeitet und leicht entfernt werden können.

Xu Xiaoke, Professor an der Pädagogischen Universität Peking, betonte die Notwendigkeit, die Systeme zur Überprüfung von Geolokalisierung, Zeitstempeln und Bildquellen weiter zu stärken. Gleichzeitig sagte er, dass die Technologien zur Erkennung von KI-generierten Materialien derzeit hinter den Technologien zu deren Erstellung zurückbleiben.

Seiner Ansicht nach gleicht dieser Prozess einem ständigen „Katz-und-Maus-Spiel“. Daher sei es falsch zu glauben, dass die Technologie selbst alle gefälschten Materialien auf Knopfdruck erkennen könne.

Die chinesische Regierung investiert indes weiterhin massiv in den KI-Sektor, um das Land in eine führende Technologieation zu verwandeln. Im Jahr 2017 wurde KI zur Hauptantriebskraft der Entwicklung des Landes erklärt. Heute sind nach Angaben der staatlichen Nachrichtenagentur über 6.000 Unternehmen für künstliche Intelligenz im Land tätig.

Professor Xu ist der Meinung, dass China unter diesen Bedingungen eine zuverlässige Informationsinfrastruktur aufbauen muss. Dieses System sollte offizielle Warnplattformen, Notfallschnittstellen und schnelle Informationsquellen für die Medien umfassen.

In einigen Fällen hat jedoch die Tatsache, dass offizielle Quellen selbst Katastropheninformationen verharmlost haben, zu einem Vertrauensverlust in der Öffentlichkeit geführt. Beispielsweise wurde lokalen Journalisten im Juli bezüglich eines großen Risses in der Wand des Lulan-Staudamms in der Nähe von Nanning empfohlen, darüber nicht als „Bruch“, sondern als „Öffnung“ oder „Spalt“ zu berichten. Infolge dieser Katastrophe starben später mindestens 26 Menschen.

Dies ist nicht der erste Fall. Im Jahr 2021 wurden lokale Beamte in der Provinz Henan beschuldigt, Informationen über 139 verstorbene Bürger verschwiegen oder heruntergespielt zu haben.

Experten zufolge sind es genau solche Fälle, die das Vertrauen der Öffentlichkeit schwächen und böswilligen Personen die Möglichkeit bieten, Falschinformationen leicht zu verbreiten.

Gleichzeitig ruft die Polizei die Bevölkerung dazu auf, in Notsituationen nur offiziellen und verifizierten Quellen zu vertrauen. Gao Kai, ein Sprecher des Büros für öffentliche Sicherheit Ningbo, betonte, dass Berichten über Katastrophen mit unbekannter Herkunft skeptisch begegnet und auf offizielle Angaben vertraut werden müsse.

Er erklärte, das Internet sei kein gesetzloser Raum. Die Strafverfolgungsbehörden überwachen soziale Netzwerke, insbesondere Plattformen für kurze Videos, kontinuierlich durch spezielle Einheiten und werden hart gegen Gesetzesbrecher vorgehen.

Auch die Cyberspace-Verwaltung Chinas gab am 23. Juli den Start einer landesweiten Razzia gegen Falschinformationen im Zusammenhang mit Überschwemmungen und anderen Katastrophen bekannt. Dabei wird ein besonderes Augenmerk auf gefälschte Statistiken, montierte Videos, inszenierte Ereignisse, die Darstellung historischer Aufnahmen als neue Ereignisse sowie gefälschte Auftritte im Namen von Behörden gelegt. Social-Media-Plattformen wurden zudem angewiesen, Inhalte noch strenger zu prüfen.

Professor Gao Fupin ist der Ansicht, dass die effektivste Lösung des Problems darin besteht, die Bevölkerung in Informationskompetenz zu schulen und die Gesetzgebung konsequent anzuwenden. Er betonte, dass KI selbst keine Gefahr darstelle – das Hauptproblem liege darin, zu welchem Zweck die Menschen sie einsetzen.

Professor Chen Bin vertritt jedoch eine andere Meinung. Er sagt, dass sich die Technologien der künstlichen Intelligenz viel schneller entwickeln als der rechtliche Rahmen. Solange neue Rechtsfragen auftauchen, könnte die durch KI verbreitete Desinformation noch lange Zeit ein ernstes Problem bleiben.

Peter Pang, ein in Shanghai und Washington tätiger Jurist, betonte, dass nicht nur Personen, die gefälschte Materialien erstellt haben, sondern auch Unternehmen, die KI-Software entwickelt haben, sowie die Plattformen, die sie verbreiten, rechtlich zur Rechenschaft gezogen werden sollten.

Den Schlussfolgerungen von Experten zufolge könnten Themen wie Wahlen, öffentliche Gesundheit, bewaffnete Konflikte, Naturkatastrophen und andere das Leben der Bevölkerung betreffende Bereiche in Zukunft zu den gefährlichsten Feldern für durch KI verbreitete Falschinformationen werden. Daher müssen Regierungen und Internetplattformen sich im Voraus vorbereiten, anstatt erst nach der Ausbreitung des Problems zu reagieren.