KI-Chatbot liefert Frau aus, die ihm ihre Geheimnisse anvertraute

Ein Vorfall, der als ernste Warnung für alle dient, die KI-Chatbots als absolut vertrauenswürdige Tagebücher oder diskrete Gesprächspartner betrachten, hat für Aufsehen gesorgt. Eine Bürgerin aus Florida, USA, nutzte regelmäßig das bekannte Claude KI-System als Tagebuch, um ihre persönlichen Gedanken festzuhalten. Doch dieses „Vertrauen“ endete unerwartet mit ihrer Verhaftung und der Einleitung eines Strafverfahrens.

Der Vorfall hat erneut bewiesen, dass digitale Sicherheit und die Vertraulichkeit persönlicher Daten in neuronalen Netzen nicht absolut sind.

Wie hat der Algorithmus die Bedrohung erkannt?

Laut den vom örtlichen Sheriff-Büro bereitgestellten Informationen lösten die neuesten Einträge der Frau im Chatbot das Sicherheitssystem aus:

• Anzeichen von Gewalt: Unter den Sätzen, die die Frau als persönliches Tagebuch verfasst hatte, befanden sich offene Drohungen physischer Gewalt gegen Beamte des örtlichen Sheriff-Büros;

• Sicherheitsalarm: Die Sicherheitsprotokolle von Claude bewerteten diese Korrespondenz als ernsthafte potenzielle Bedrohung für Menschenleben und staatliche Behörden;

• Menschliche Kontrolle: Nachdem der Algorithmus Alarm geschlagen hatte, wurde der Text von menschlichen Moderatoren des Unternehmens („Anthropic“) überprüft. Nachdem die Bedrohung als real eingestuft wurde, wurden die Informationen umgehend an die örtliche Polizei weitergeleitet.

Verhaftung und offizielle Anklage

Basierend auf den erhaltenen Informationen handelte die Polizei schnell, identifizierte die Verfasserin der Nachrichten und nahm sie fest:

• Vorgebrachte Anklage: Derzeit wird die Frau wegen schriftlicher Androhung von Gewalt und terroristischen Aktivitäten angeklagt;

• Rechtlicher Status: Die örtlichen Behörden betonen, dass dies eine vorläufige Anklage ist und die endgültige Entscheidung durch ein Gerichtsurteil getroffen wird.

Ist es sicher, KI-Chats Geheimnisse anzuvertrauen?

Dieser Vorfall hat die größte Illusion bei der Nutzung moderner KI-Plattformen zerstört:

• Keine absolute Vertraulichkeit: Viele Nutzer halten KI für einen „verschwiegenen Zuhörer“. Tatsächlich sehen die Lizenzvereinbarungen großer IT-Unternehmen jedoch die Verpflichtung vor, Informationen an Strafverfolgungsbehörden weiterzugeben, wenn Drohungen in Bezug auf Extremismus, Suizid oder Mord festgestellt werden;

• Moderator-Kontrolle: Komplexe und verdächtige Anfragen werden nicht nur durch Maschinencode, sondern auch von menschlichen Moderatoren geprüft.

Experten raten Nutzern, bei der Interaktion mit KI-Systemen keine persönlichen, rechtlich sensiblen oder potenziell gefährlichen Gedanken schriftlich einzugeben und die Plattformen nicht als bloßes Tagebuch zu betrachten.