Das unabhängige Oversight Board von Meta hat sich besorgt über die wachsende Zahl von KI-generierten Fake-Inhalten in sozialen Netzwerken geäußert. Die Vorstandsmitglieder stellten fest, dass das Unternehmen keine ausreichenden Maßnahmen zur Bekämpfung solcher Fehlinformationen ergreift. Darüber berichtet bbc.com.
Auslöser dafür war ein KI-generiertes Video, das sich im Juni letzten Jahres auf Facebook verbreitete. Das von einer Fake-News-Seite auf den Philippinen hochgeladene Video zeigte iranische Streitkräfte, die der israelischen Stadt Haifa schweren Schaden zufügten. Obwohl das Video schnell fast 1 Million Aufrufe verzeichnete, hat Meta es weder gekennzeichnet noch gelöscht.
Derzeit verlässt sich Meta weitgehend darauf, dass die Nutzer selbst anerkennen, dass sie KI-Produkte hochladen, oder auf Beschwerden von anderen. Das Unternehmen bewertete das besagte Video zunächst als nicht regelwidrig, da es keine physische Bedrohung darstellte. Das Oversight Board kritisierte diesen Ansatz jedoch scharf und erklärte, dass das System zur Erkennung von Fake-Videos extrem schwach sei, insbesondere bei militärischen Konflikten und Krisen.
Das Board warnte davor, dass Fake-Videos über globale Konflikte die Fähigkeit der Menschen, Wahrheit von Lüge zu unterscheiden, negativ beeinflussen und Misstrauen gegenüber allen Informationen schüren. Daher ist Meta gefordert, gefährliche KI-generierte Inhalte aktiv und zeitnah zu kennzeichnen.
Nach der Kritik erklärte Meta, dass man das Video innerhalb von sieben Tagen mit einem speziellen Label versehen und in Zukunft den Empfehlungen des Boards in ähnlichen Fällen folgen werde. Zur Erinnerung: Meta hat dieses halbunabhängige Oversight Board im Jahr 2020 gegründet, um die Inhaltsmoderation auf seinen Plattformen wie Facebook, Instagram und WhatsApp sicherzustellen.
Lesen Sie „Zamin“ auf Telegram!
