Signal-Chefin warnt: KI-Chatbots sind nicht Ihre Freunde

Meredith Whittaker, Präsidentin des Signal-Messengers, hat eine ernsthafte Erklärung zu den Gefahren des übermäßigen Vertrauens in KI-Technologien und der Übermittlung personenbezogener Daten abgegeben. Ihr zufolge sind Systeme wie ChatGPT oder Claude keine engen Vertrauten oder bewussten Gesprächspartner, sondern Werkzeuge zur Verarbeitung riesiger Datenbanken. Dies wurde in einem Interview mit Bloomberg ausführlich besprochen. Techcrunch.com berichtet .

Meredith Whittaker betonte, dass sie es strikt ablehnt, KI mit dem menschlichen Bewusstsein gleichzusetzen. "Das sind nicht Ihre Freunde. Sie sind keine bewussten Wesen oder Gesprächspartner mit Gefühlen", stellte sie fest. Die Signal-Chefin gab zu, dass sie diese Technologien gelegentlich zur Formatierung von Dokumenten nutzt, betonte jedoch, dass sie ihnen niemals Fragen stellt und ihren Denkprozess nicht Maschinen anvertraut.

Fragen der Privatsphäre und Kontrolle

Im Interview wurde auch die Prognose von Microsoft AI-Chef Mustafa Suleyman besprochen, Weihnachts Einkäufe mithilfe von Microsoft Copilot zu tätigen. Aus Whittakers Sicht bedeutet die Übertragung solcher Aufgaben an eine KI, dass der volle Zugriff auf Bankkarten, Browserverlauf, private Nachrichten und die Privatadresse des Nutzers gewährt wird. Aus Sicht der digitalen Sicherheit ist dies ein enormes Risiko.

Die Signal-Chefin ist besorgt, dass solche Systeme Gespräche in Familiengruppen überwachen und Nachrichten im Namen des Nutzers senden könnten. Sie merkte an, dass ein System mit weitreichendem Zugriff auf mehrere Apps und Dienste die Privatsphäre auslöscht. Im Kontext des Signal-Messengers könnten solche Fälle als eine Art "Backdoor" fungieren und das Sicherheitssystem schwächen.

Whittaker erklärte, dass sie ihren Denk- und Schreibprozess sehr ernst nehme. Sie möchte nicht, dass der Prozess der Ideenfindung von Systemen überschattet wird, die lediglich vorhandene Daten zusammenfassen. Ihrer Meinung nach sind KI-Antworten oft nur ein Durchschnitt der im Internet verfügbaren Informationen, was den individuellen kreativen Ansatz des Menschen ersticken kann.

Diese Warnung ist auch für Nutzer in Usbekistan relevant. Während die Nutzung von ChatGPT und anderen Bots im Land immer beliebter wird, kann das Vertrauen von persönlichen Daten, Bankdaten und vertraulicher Korrespondenz an Drittsysteme den Weg für Cyberkriminalität ebnen. Wie die Signal-Chefin betonte, darf die Technologie, egal wie bequem sie ist, die persönlichen Grenzen nicht verletzen.

Zusammenfassend forderte Meredith Whittaker die Nutzer auf, gegenüber den von den digitalen Giganten angebotenen "intelligenten Assistenten" wachsam zu sein. Ihrer Meinung nach ist der einzige Weg zur Wahrung der Privatsphäre, der KI nicht alle Daten offen zur Verfügung zu stellen und ihre Funktionen nur als technisches Werkzeug zu nutzen.