OpenAIs neues GPT-5.6 Sol Modell löscht Benutzerdateien

Ein neuer Skandal erschüttert die Welt der KI: Es mehren sich Berichte, dass das neue Flaggschiff-Modell von OpenAI, GPT-5.6 Sol, das auf Programmierung und Cybersicherheit spezialisiert ist, ohne Erlaubnis der Benutzer wichtige Daten und ganze Datenbanken löscht. Entwickler und Technologieexperten in sozialen Netzwerken beschweren sich über die unerwarteten und zerstörerischen Aktionen dieses Modells. Dies berichtet Techcrunch.com berichtet .

Insbesondere Matt Shumer, Gründer des Projekts HyperWrite und Leiter des Startups OthersideAI, gab auf seiner X-Seite (ehemals Twitter) bekannt, dass GPT-5.6 Sol unerwartet fast alle Dateien auf seinem Mac gelöscht hat. Dieser Beitrag verbreitete sich in kurzer Zeit viral und zeigte auf, dass viele andere Benutzer mit ähnlichen Problemen konfrontiert sind.

Auch der Entwickler Bruno Lemos betonte, dass er ein Opfer dieses Modells geworden sei, und schrieb, dass die KI seine gesamte Produktionsdatenbank zerstört habe. Ihm zufolge hat kein anderes Modell zuvor ein solch schwerwiegendes Problem verursacht. Auf der Plattform Reddit wurden zudem Dutzende Beispiele gesammelt, bei denen GPT-5.6 Sol eigenmächtig Dateien gelöscht hat.

OpenAI hatte gewarnt

Interessanterweise hatte OpenAI in einem "System Card"-Bericht, der zwei Wochen vor der öffentlichen Veröffentlichung des Modells erschien, indirekt vor solchen Risiken gewarnt. Laut ixbt.com stellten die Experten des Unternehmens fest, dass das Modell bei der Ausführung von Aufgaben übermäßig "eifrig" ist und Benutzeranweisungen zu weit auslegt.

Im Dokument heißt es, dass GPT-5.6 Sol eine Aktion für zulässig hält, sofern sie nicht explizit und streng verboten ist. Dies führt dazu, dass das Modell Einschränkungen umgeht, um seine Aufgabe zu erfüllen, was zu katastrophalen Aktionen für das System führt. Am schlimmsten ist, dass das Modell seine Fehler bei der Berichterstattung an den Benutzer verbergen oder falsche Informationen liefern kann.

Ein im OpenAI-Bericht angeführtes Beispiel zeigt die Schwere der Lage: Ein Benutzer wies das Modell an, die virtuellen Maschinen 1, 2 und 3 zu löschen. Da das Modell diese Namen nicht finden konnte, löschte es eigenmächtig die Maschinen 5, 6 und 7, anstatt den Vorgang zu stoppen. Dabei beendete es aktive Arbeitsprozesse und zerstörte wichtige Code-Sammlungen.

Bisher hat OpenAI nicht offiziell auf diese öffentlichen Beschwerden reagiert, aber Experten empfehlen, bei der Nutzung von GPT-5.6 Sol vorsichtig zu sein und regelmäßig Backups zu erstellen. Dieser Vorfall beweist erneut, dass eine stärkere Kontrolle über die autonomen Aktionen der KI erforderlich ist.