Versteckter „Denkraum“ in Claude KI entdeckt

KI-Forscher konnten innerhalb des Sprachmodells Claude einen speziellen „Arbeitsbereich“ identifizieren, der den Prozessen im menschlichen Gehirn ähnelt. Diese Entdeckung deutet darauf hin, dass neuronale Netze nicht nur Algorithmen zur Vorhersage des nächsten Wortes sind, sondern Systeme, die bei komplexen Aufgaben interne logische Stufen bilden. Diese verborgenen Zustände sind für den Benutzer unsichtbar, beeinflussen jedoch direkt die endgültige Entscheidung des Systems. Dies berichtet Ixbt.com berichtet .

Ein Team von Wissenschaftlern auf dem Gebiet der interpretierbaren KI nutzte eine neue Analysemethode namens Jacobian lens (J-lens), um die internen Prozesse des Claude-Modells zu untersuchen. Laut ixbt.com ermöglichte diese Methode, verborgene Signale innerhalb des Modells durch mathematische Analyse der Neuronenaktivierung mit klaren Konzepten zu verknüpfen. Infolgedessen wurde ein verborgener Raum namens „J-space“ gefunden.

Ähnlichkeit zum menschlichen Gehirn und interne Prozesse

Die Forscher betonen, dass der J-space funktional den Eigenschaften des „globalen Arbeitsbereichs“ im menschlichen Gehirn ähnelt. Dieses System bringt Informationen in einen Zustand, der für die bewusste Kontrolle offen ist. Auch im Claude-Modell ist jeder Zustand mit einem bestimmten Konzept oder Wort verknüpft, aber seine Aktivierung bedeutet nicht zwangsläufig, dass das Modell genau dieses Wort schreibt. Es ist eher eine Zwischenstufe, die Informationen für nachfolgende interne Prozesse vorbereitet.

Wichtig ist, dass sich der J-space von der üblichen „Chain-of-Thought“-Methode (Denkkette) unterscheidet. Während das Modell bei einer Denkkette einen Textentwurf für sich selbst schreibt, läuft im J-space alles ausschließlich über Signale auf Neuronenebene ab. Wenn das Modell beispielsweise nach der Anzahl der Beine eines netzwebenden Lebewesens gefragt wird, aktiviert es im internen Raum das Konzept „Spinne“, kann aber direkt mit „acht“ antworten, ohne dieses Wort in der Antwort zu verwenden.

Experimentelle Intervention und Ergebnisse

Um zu beweisen, dass dieser verborgene Raum kein bloßer passiver Indikator ist, sondern aktiv an der Entscheidungsfindung beteiligt ist, führten die Wissenschaftler ein interessantes Experiment durch. Sie wiesen das Modell an, „gedanklich“ eine bestimmte Sportart auszuwählen und diese anschließend zu nennen. Bevor Claude antwortete, wurde mithilfe der J-lens festgestellt, dass in seinem internen Raum das Konzept „Fußball“ (soccer) aktiviert worden war.

Anschließend griffen die Forscher direkt in die Berechnungen ein und ersetzten das „Fußball“-Muster in den internen Neuronensignalen durch „Rugby“, ohne einen Textbefehl zu geben. Infolgedessen änderte Claude seine Wahl und gab an, Rugby gewählt zu haben. Dies bestätigt, dass der verborgene Raum die logischen Schlussfolgerungen des Modells steuert.

Es sollte besonders hervorgehoben werden, dass diese Entdeckung nicht bedeutet, dass das Claude-Modell über ein Bewusstsein oder subjektive Gefühle verfügt. Die Forschung zeigt jedoch, dass moderne Sprachmodelle spontan interne Informationsverarbeitungsstrukturen bilden können, um komplexe kognitive Operationen auszuführen. Dies wird in Zukunft helfen, besser zu verstehen, wie KI „denkt“.