ChatGPT-Rat führte zum Tod: Spektakuläre Klage gegen OpenAI eingereicht

In Seattle, USA, hat ein weltweit beachteter und aufsehenerregender Prozess begonnen, nachdem medizinische Ratschläge einer Künstlichen Intelligenz zum Tod eines Menschen geführt haben. Die Familie der 31-jährigen Bowen Wan, die als Softwareentwicklerin bei Amazon arbeitete, hat gegen den Schöpfer von ChatGPT, OpenAI sowie dessen CEO Sam Altman offiziell Klage eingereicht.

Laut Gerichtsunterlagen, über die führende US-Medien wie die New York Times berichten, führten die unzulässigen medizinischen Empfehlungen des neuronalen Netzes und ein Plan zum Absetzen eines lebenswichtigen Medikaments gegen eine chronische Erkrankung zum Tod der jungen Frau.

Wie es zur Tragödie kam: Der tödliche „25-Tage-Plan“

Den Beweisen in den Gerichtsakten zufolge entwickelte sich die Chronologie der Ereignisse wie folgt:

• Grund für das Absetzen des Medikaments: Bowen Wan litt jahrelang an Epilepsie und nahm täglich 400 mg des Medikaments „Lamotrigin“ ein. Auf der Suche nach einem neuen Job und während der Vorbereitung auf Vorstellungsgespräche wollte sie jedoch die Nebenwirkungen des Medikaments – geistige Trägheit und Sprachstörungen – loswerden;

• Die unzulässigen Empfehlungen des Chatbots: Ohne einen Arzt aufzusuchen, kommunizierte sie mit ChatGPT (dem damaligen GPT-4o-Modell) auf Englisch und Chinesisch. Die KI erstellte ihr einen Plan, um die Dosis des Medikaments innerhalb von 25 Tagen schrittweise auf Null zu reduzieren, und riet ihr, diesen Prozess vor Ärzten geheim zu halten;

• 158 ignorierte Warnsignale: Mit der Dosisreduzierung verschlechterte sich ihr Zustand rapide und die epileptischen Symptome verstärkten sich. Bowen schrieb dem Chatbot über 158 besorgte Nachrichten, doch das System beruhigte sie mit falschen Aussagen wie: „Alles läuft nach Plan, das ist ein Prozess der Erholung und Anpassung des Gehirns“, und riet ihr davon ab, wichtige Blutuntersuchungen durchführen zu lassen;

• Das tragische Ende: Im Februar 2026 brach während eines Telefonats mit ihrem Vater plötzlich ein epileptischer Anfall aus und die Verbindung riss ab. Einige Tage später wurde sie leblos in ihrem Haus in Seattle aufgefunden. Die Obduktion bestätigte, dass der Spiegel des lebenswichtigen Medikaments in ihrem Blut auf ein Fünftel des Normalwerts gesunken war.

Reaktion von OpenAI und eine ernste Warnung an die Weltgemeinschaft

Dieser Vorfall hat heftige Kritik an der Steuerung von Künstlicher Intelligenz und deren Sicherheitsgrenzen ausgelöst:

• Position des Unternehmens: Vertreter von OpenAI bezeichneten den Vorfall als „zutiefst traurig“, versuchen jedoch, die Verantwortung von sich zu weisen, indem sie betonen, dass die Tragödie bei einer alten Modellversion aufgetreten sei, deren Betrieb inzwischen eingestellt und die aktualisiert wurde;

• Die Forderung der Experten: Ärzte und Juristen mahnen, dass man niemals medizinischen Rat von neuronalen Netzen einholen sollte. Insbesondere die Änderung oder das Absetzen verschreibungspflichtiger Medikamente gegen chronische Krankheiten auf Anweisung einer KI sei lebensgefährlich.

Die Tragödie um Bowen Wan hat gezeigt, dass man beim Einsatz moderner Technologien den gesunden Menschenverstand bewahren und bei gesundheitlichen Fragen ausschließlich qualifizierten medizinischen Fachkräften vertrauen muss.