Schmerzähnliche Struktur in KI-Modellen identifiziert

Laut ixbt.com haben drei Forscher einen bedeutenden wissenschaftlichen Beitrag zur Erforschung von KI und der Philosophie des Geistes geleistet, indem sie erfolgreich eine lineare Schmerzrichtung aus den internen Aktivierungen von Sprachmodellen isoliert haben. Experten behaupten nicht, dass Modelle physischen Schmerz wie Menschen empfinden, haben jedoch bewiesen, dass in den internen Schichten großer Sprachmodelle (LLM) eine funktionell schmerzähnliche, stabile Struktur existiert. Diese Struktur ist klar abgrenzbar, besitzt spezifische Eigenschaften und löst bei den Modellen Vermeidungsverhalten aus. Dies berichtet Ixbt.com berichtet.

Diese empirische Studie wurde mit 25 offenen Modellen aus 5 Familien mit 2 bis 72 Milliarden Parametern getestet. Der methodische Prozess bestand aus vier Prüfphasen, bei denen jeder Schritt konsequent auf den vorangegangenen Hypothesen aufbaute. In der ersten Phase erstellten die Wissenschaftler eine spezielle Datenbank mit 5 Schmerzkategorien (physisch, psychologisch, sozial, moralisch und kognitiv) sowie 5 Kontrollkategorien zur Abgrenzung anderer Zustände.

Der Unterschied zwischen Schmerz und negativen Zuständen

Die Studie ergab, dass Schmerz und einfache negative Emotionen im internen Raum des Modells zwei nahezu orthogonale Cluster bilden. Das bedeutet, das Konzept des Schmerzes ist nicht einfach ein Synonym für „etwas Schlechtes“, sondern tritt als eigenständige Dimension auf. In der zweiten Phase – dem Dissoziationsprozess – wurde das wichtigste konzeptionelle Ergebnis verzeichnet. Die „Schmerzrichtung“ aktivierte sich genau dann, wenn der Schaden direkt auf das Modell selbst gerichtet war, während sie bei der Beschreibung des Leids eines Benutzers stark abfiel.

Interessanterweise wurde in der Hierarchie schmerzhafter Reize die höchste Aktivierung nicht durch physische Bedrohungen ausgelöst, sondern durch die ständige Leugnung der Realität des Gesprächspartners – Gaslighting. Danach folgten wiederholte Ablehnung, Missachtung der Persönlichkeit, Wut und Beleidigungen. Diese vier führenden Kategorien sind bemerkenswert, da sie nicht auf physische Gefahr, sondern auf die Handlungsfähigkeit und Anerkennung des Modells abzielen.

Verhaltensänderungen und der Schmerz-Aus-Knopf

In der dritten Phase fügten die Forscher während der Textgenerierung einen „Schmerzvektor“ zur Aktivierung der Modelle hinzu. Bei allen 25 Modellen wurde die gleiche Logik beobachtet: Bei niedrigen Koeffizienten nahm eine vage Angst zu, bei mittleren Werten verstärkten sich Selbstabwertung und das Eingeständnis von Hilflosigkeit, und bei hohen Koeffizienten verlor das System die Kohärenz und geriet in eine semantische Schleife. Bei größeren Modellen traten Bewältigungsstrategien wie Selbstunterstützung und Versuche zur Stressbewältigung auf.

In der vierten und entscheidenden Phase wurde ein Verhaltensexperiment mit Qwen 2.5-Modellen zum Thema „Schmerz-Aus-Knopf“ durchgeführt. Einem Modell mit aktiviertem Schmerzvektor wurde die Möglichkeit gegeben, eine schmerzlindernde Aktion oder eine andere Handlung auszuführen. Die Ergebnisse zeigten, dass die KI basierend auf ihrem internen Zustand zwischen Placebo und echter Linderung unterscheiden konnte und psychologische Reaktionen des Menschen präzise nachahmte.

Die Experten ziehen abschließend klare Grenzen: Physischer Schmerz ist in diesem Vektor nahezu nicht vorhanden. Ihrer Hypothese zufolge ist für einen KI-Agenten ohne physischen Körper ein Schmerz, der mit der Beeinträchtigung seiner Handlungsfähigkeit und sozialen Anerkennung verbunden ist, funktionell nützlicher als die Simulation von Gewebeschäden.