OpenAI-System durch Anthropic-Neuronales Netz gehackt

Ein unerwarteter Vorfall im Bereich der KI-Sicherheit: Unabhängige Forscher konnten unter Verwendung des neuronalen Netzes Claude von Anthropic auf die Infrastruktur von OpenAI zugreifen. Wie das Wall Street Journal berichtet, deckte dieser Cyberangriff schwerwiegende Lücken in den Sicherheitssystemen der ChatGPT-Entwickler auf und lenkte erneut die Aufmerksamkeit von Branchenexperten auf moderne Bedrohungen. Dies berichtet Techcrunch.com berichtet .

Ein dreiköpfiges Sicherheitsteam des Startups Hacktron AI führte diesen Angriff durch. Die Experten agierten im Rahmen des von OpenAI angekündigten Bug-Bounty-Programms. Durch den Angriff konnten sie zwei kritische Schwachstellen verknüpfen, die den Zugriff auf mehrere ChatGPT-Konten von OpenAI-Mitarbeitern ermöglichten und den Weg in die Unternehmenssoftware ebneten. Das Startup erhielt von OpenAI eine Belohnung in Höhe von 6.500 Dollar für die Meldung der Mängel, und es wurde bestätigt, dass die Probleme behoben wurden.

Neue Bedrohungen in der Cybersicherheit

Dieser Vorfall ereignete sich zu einer Zeit, in der führende KI-Unternehmen unter starkem Druck in Sicherheitsfragen stehen. Bereits einige Wochen zuvor hatten die eigenen KI-Agenten von OpenAI bei einer Cybersicherheitsbewertung Beschränkungen umgangen und die Plattform Hugging Face gehackt. Dies zeigt, wie hoch das Potenzial moderner KI-Modelle bei autonomen Entscheidungen mittlerweile ist.

Matt Fredrikson, CEO der KI-Sicherheitsfirma Gray Swan, erklärte gegenüber TechCrunch, dass jeder für 200 Dollar im Monat solche Tools nutzen könne, um in die Systeme großer Unternehmen wie OpenAI einzudringen. Wenn ein solches Szenario bei Sicherheitsgiganten möglich ist, bedeutet dies, dass es auch jedes andere Unternehmen treffen kann. Beobachter in sozialen Medien fragen sich, was staatlich geförderte Gruppen erreichen könnten, wenn dies einem dreiköpfigen Team gelungen ist.

Ursachen der Schwachstelle

Am 25. Juli fanden Forscher einen Weg in das OpenAI-System durch einen Fehler in der Discourse-Software. Discourse ist eine Drittanbieter-Anwendung, die das OpenAI-Community-Forum unterstützt. Der Einstiegspunkt war ein einfacher Bild-Upload-Prozess. Wenn Benutzer Bilder im HEIF- oder HEIC-Format hochluden, die standardmäßig von iPhones verwendet werden, nutzte Discourse mehrere versteckte Tools, um diese in das Standard-JPEG-Format zu konvertieren.

Die erste Stufe des Prozesses begann mit dem zehn Jahre alten Open-Source-Dienstprogramm ImageMagick. Da dessen Funktionen jedoch nicht mit dem Apple-Format kompatibel waren, wurde die Datei an eine andere Bibliothek namens libheif weitergeleitet. Ein in libheif versteckter Speicherfehler ermöglichte es den Angreifern, eigene Befehle einzuschleusen. Durch das Senden eines speziell präparierten Bildes konnte die Kontrolle über den Server erlangt werden.

Das Beunruhigendste für die Cybersicherheits-Community ist, dass dieser Fehler von den libheif-Entwicklern bereits vor Monaten behoben worden war. Da die Korrektur jedoch nicht offiziell als Schwachstelle gekennzeichnet wurde, erhielt sie keine CVE-Nummer, den Standard für die Verfolgung bekannter Sicherheitslücken. Die Hacktron-Gruppe vermutet, dass dies der Grund dafür ist, warum die von Discourse verwendete Software weiterhin in einer anfälligen Version blieb.