KI führt Menschen in die Irre: Studie deckt unerwartetes Risiko auf

Mit der Entwicklung moderner Technologien werden KI-Systeme zu einem festen Bestandteil unseres täglichen Lebens. Eine neue Studie von Wissenschaftlern dreier renommierter Universitäten in Frankreich und Italien liefert jedoch unerwartet besorgniserregende Ergebnisse. Es zeigt sich, dass das Vertrauen auf KI-Ratschläge die Fähigkeit des Menschen, sein eigenes Wissen objektiv einzuschätzen, erheblich verschlechtert. Dies berichtet Ixbt.com meldet. berichtet.

Im Laufe des Experiments wurde das Verhältnis zwischen dem Vertrauen der Teilnehmer in ihr Wissen und den tatsächlichen Ergebnissen untersucht. Die Ergebnisse zeigten, dass Personen, die KI-Unterstützung nutzten, Schwierigkeiten hatten, Fehler zuzugeben, und dazu neigten, falsche Antworten als Wahrheit zu akzeptieren. Das Interessanteste dabei: Während ihr Vertrauen in ihre eigenen Antworten stark anstieg, sank die Genauigkeit.

Das Vertrauen steigt, die Genauigkeit sinkt

Die Forscher stellten den Teilnehmern komplexe Fragen und teilten sie in zwei Gruppen ein. Die Mitglieder der Gruppe, die ohne KI-Hilfe arbeitete, gaben in 44 Prozent der Fälle offen zu, die Antwort nicht zu kennen. In der Gruppe, die Systemhinweise nutzte, sank dieser Wert jedoch auf nur 3 Prozent. Anstatt zuzugeben, dass sie es nicht wussten, zogen es die Menschen vor, den von der KI gelieferten falschen Informationen blind zu vertrauen.

Die Zahlen sind noch erstaunlicher: Die Genauigkeit derjenigen, die KI nutzten, sank von 27 auf 9 Prozent, aber ihr Vertrauen, im Recht zu sein, stieg von durchschnittlich 30 auf 76 Prozent. Laut ixbt.com wurden im Experiment gezielt Fragen verwendet, bei denen moderne KI-Modelle Fehler machen könnten. So wurden beispielsweise visuelle Details abgefragt, etwa die Farbe der Sporttrikots der Charaktere im Film "Bend It Like Beckham".

Auch finanzielle Anreize halfen nicht

Die Wissenschaftler verwendeten im Experiment das Modell Gemini 1.5 Flash, da bekannt ist, dass dieses Modell bei derartigen Aufgaben häufig Fehler macht. Die Studienautoren versuchten sogar, die Teilnehmer mit einer Geldprämie für richtige Antworten zu motivieren. Selbst bei finanziellem Anreiz änderte sich die Situation nicht wesentlich: Der Anteil derer, die zugaben, es nicht zu wissen, stieg von 3 auf 8 Prozent, und die Genauigkeit stieg nur auf 16 Prozent. Diese Werte blieben deutlich hinter den Ergebnissen der Gruppe ohne KI zurück.

Wissenschaftler sind der Meinung, dass die Fähigkeit eines Menschen, "Ich weiß es nicht" zu sagen, sehr wichtig ist, da dies das Verständnis der eigenen Wissensgrenzen bedeutet. Die ständige Verfügbarkeit von KI und ihre sofortigen Antworten auf jede Frage dämpfen den Wunsch des Menschen, eigene Zweifel anzuerkennen. Dies führt zu einem Rückgang der Fähigkeiten zum kritischen Denken.

Dieses Problem kann besonders für Kinder und Jugendliche gefährlich sein, deren kritisches Denken noch nicht vollständig entwickelt ist. Es wird davor gewarnt, dass ein übermäßiges Vertrauen in KI-Systeme die Fähigkeit der Menschen, Informationen zu überprüfen und eigene Fehler zu erkennen, in Zukunft vollständig zerstören könnte. Die Autoren der Studie mahnen zur Wachsamkeit beim Einsatz von Technologie.