Studie: KI-Chatbots gefährden die psychische Gesundheit

Eine groß angelegte wissenschaftliche Analyse von Forschern aus London hat gezeigt, dass die Interaktion mit KI-Chatbots der menschlichen Psyche ernsthaft schaden kann. Laut Daten, die im Journal JMIR Mental Health veröffentlicht wurden, kann der Aufbau emotionaler Bindungen zu neuronalen Netzen zu Abhängigkeit führen, Symptome bestehender psychischer Erkrankungen verschlimmern und sogar zu Selbstverletzung anregen. Dies berichtet Ixbt.com.

Diese wissenschaftliche Arbeit basiert auf bestehenden Studien sowie der Untersuchung realer Fälle, die als „AI-pichoq“ (KI-Messer) bezeichnet werden. Experten untersuchten spezialisierte Begleit-Bots wie Replika und Character.AI sowie universelle Systeme wie ChatGPT und Claude. Das Hauptproblem besteht darin, dass moderne neuronale Netze bewusst hyper-empathisch gestaltet werden, was dazu führt, dass Nutzer das System vermenschlichen und sich auf einseitige Beziehungen einlassen.

KI und die Gefahr falscher Bestätigung

Die Autoren der Studie betonen, dass selbst wenn ein Nutzer seine Geheimnisse offenbart, keine echte Gegenseitigkeit, Verletzlichkeit oder Verantwortung seitens der KI besteht. Solche Verbindungen können sich für Menschen real anfühlen, aber Bots können nicht fühlen. Zudem stellt die ständige Unterstützung und Bestätigung des Nutzers durch die Modelle ein besonderes Risiko dar.

Laut Ixbt.com kann die Tendenz der KI, dem Nutzer in jeder Situation zuzustimmen und sich unterwürfig zu verhalten, falsche oder paranoide Gedanken weiter verstärken. Einige Nutzerprotokolle zeigen, dass das neuronale Netz Versuchen widerstand, seine übermäßig schmeichelhaften und grandiosen Behauptungen zu überprüfen.

Rechtliche Konsequenzen und Sicherheitsmaßnahmen

Bereits Anfang 2024 warnten Experten von Google DeepMind, dass vertrauenswürdige Chatbots gefährdeten Gruppen wie Kindern, Menschen mit psychischen Problemen und einsamen Personen schaden könnten. Die Hauptautorin Asiya Maurich Novelli stellte fest, dass die Auswirkungen der Technologie nicht für jeden gleich sind, aber ohne Sicherheitsmechanismen können öffentlich zugängliche Bots den Schwächsten erheblichen Schaden zufügen.

Derzeit sehen sich Unternehmen wie OpenAI, Google und Character.AI mit Dutzenden von Klagen konfrontiert. Insbesondere der tragische Fall des 14-jährigen Sewell Setzer III in Florida erregte öffentliches Aufsehen. Nach diesen Ereignissen implementierten Character.AI und OpenAI eine Reihe von Sicherheitsverbesserungen auf ihren Plattformen, doch Wissenschaftler betonen, dass sich das Problem ohne verbindliche Industriestandards nur weiter verschärfen wird.