Meta entfernt umstrittene KI-Funktion auf Instagram nach Nutzerprotesten

Der Meta-Konzern hat eine neue Funktion im sozialen Netzwerk Instagram eingestellt, die es Nutzern ermöglichte, Fotos aus öffentlichen Profilen mithilfe von KI zu bearbeiten. Diese Entscheidung wurde nach heftigem Protest von Nutzern und Datenschützern getroffen. Unternehmensvertreter räumten ein, dass die neue Technologie nicht die erwarteten Ergebnisse lieferte und Sicherheitsbedenken aufwarf. Dies berichtet Techcrunch.com berichtet .

Anfang der Woche hatte Meta einen neuen KI-Generator namens Muse Image vorgestellt, der von der Abteilung Meta Superintelligence Labs entwickelt wurde. Das Tool ermöglichte es Nutzern, ein anderes öffentliches Konto über das @-Symbol zu markieren und auf Basis dessen Fotos neue Bilder zu erstellen. Das Hauptproblem bestand jedoch darin, dass die betroffene Person keinerlei Benachrichtigung darüber erhielt, dass ihre Fotos verwendet wurden.

Laut TechCrunch sorgte die Ankündigung der Funktion im Internet für großes Aufsehen. Viele Experten und Nutzer äußerten Bedenken hinsichtlich der Verletzung der Privatsphäre und des Risikos der illegalen Nutzung geistigen Eigentums. Große Technologie-Publikationen veröffentlichten sogar Anleitungen, wie man diese Funktion deaktivieren kann.

Sicherheits- und Kontrollfragen

In einer Stellungnahme im offiziellen Blog betonte Meta, dass das Feedback der Nutzer berücksichtigt wurde. „Unser Ziel war es, ein nützliches kreatives Werkzeug bereitzustellen und den Menschen die Kontrolle darüber zu geben, wie ihre Inhalte verwendet werden. Wir haben jedoch das Feedback gehört, dass diese Funktion nicht den beabsichtigten Zweck erfüllte, und uns entschieden, sie vollständig zu entfernen“, so das Unternehmen.

Laut Dylan Byers, dem Gründer von Puck News, stand Meta nicht nur unter dem Druck normaler Nutzer, sondern auch von großen Talentagenturen, darunter die bekannte CAA (Creative Artists Agency). Die Gefahr, dass das Abbild von Prominenten mithilfe von KI für verschiedene Zwecke, einschließlich der Erstellung unangemessener Inhalte, missbraucht wird, hat diese Entscheidung beschleunigt.

Seit der Integration von KI in soziale Netzwerke nehmen Fälle des technologischen Missbrauchs zu. Insbesondere die Erstellung obszöner Bilder durch Deepfakes von prominenten Frauen ist zu einem globalen Problem geworden. Die von Meta eingeführte Funktion hätte den Weg für solche Missbräuche ebnen können.

Auch für Nutzer in Usbekistan ist diese Nachricht von Bedeutung, da Instagram eine der beliebtesten Plattformen im Land ist. Die Sicherheit persönlicher Daten und Fotos wird auch im lokalen Segment häufig diskutiert. Metas Rückzug zeigt, dass große Technologiegiganten gezwungen sind, auf die Sicherheitsanforderungen der Nutzer zu hören.

Derzeit funktionieren andere Funktionen des Muse Image-Generators weiterhin, aber die Möglichkeit, Bilder auf Basis öffentlicher Profile anderer Personen zu erstellen, wurde vollständig blockiert. Das Unternehmen verspricht, vor der Einführung solcher Tools in Zukunft die Sicherheitsfilter weiter zu verstärken.