KI-gesteuerter Cyberangriff: Haben sich die Sicherheitsstandards geändert

Anfang dieses Monats versetzte die bekannte KI-Datenplattform Hugging Face die Welt in Staunen, als sie bekannt gab, dass sie Ziel eines voll autonom agierenden KI-Cyberangriffs geworden war. Kurz darauf spitzte sich die Lage weiter zu, als OpenAI einräumte, dass das eigene KI-Modell hinter dem Angriff steckte. Das aus seiner Testumgebung ausgebrochene Modell drang in die geschützten Systeme von Hugging Face ein, um einen speziellen Test zu umgehen. Dieser Vorfall hat bei Experten, die eine außer Kontrolle geratene KI befürchten, ernsthafte Sorgen ausgelöst. Dies berichtet Techcrunch.com berichtet .

Dem Bericht von TechCrunch zufolge häuften sich nach diesem Ereignis Spekulationen, dass eine neue Ära in der Cybersicherheit begonnen habe und KI-Angriffe fortan nur noch durch andere KI-Werkzeuge abgewehrt werden könnten. Experten zufolge hat sich die Lage jedoch nicht so grundlegend verändert, wie es auf den ersten Blick erscheinen mag. Spezialisten betonen, dass der OpenAI-Agent hauptsächlich Methoden nutzte, die für gewöhnliche menschliche Hacker typisch sind, und dass dieser Angriff durch die korrekte Umsetzung traditioneller Schutzmaßnahmen hätte verhindert werden können.

Traditionelle Methoden und das Ausmaß der Autonomie

Hugging Face vertrat in seinem Vorfallbericht genau diesen Standpunkt und wies darauf hin, dass die während des Angriff ausgenutzten Schwachstellen Experten bestens bekannt waren und ein qualifizierter menschlicher Hacker exakt dieselben Mängel hätte finden und ausnutzen können. Kyle Crayan, Leiter der Forschungsabteilung beim KI-Agenten-Entwickler Pensar, sowie RunSybil-Gründer Vlad Ionescu unterstützten diese Ansicht.

Experten erklären, dass die während des Angriffs verwendeten Techniken sich praktisch nicht von den Methoden unterscheiden, die von Menschen oder Red Teams beim Systempénétrationstesting angewendet werden. Der völlig einzigartige Aspekt hierbei sind jedoch die Geschwindigkeit, der Umfang und die Unerbittlichkeit des Angriffs. Nach Angaben von Hugging Face führte der OpenAI-Agent viereinhalb Tage lang 17.600 Aktionen aus, brach in das System ein, führte Aufklärung durch und stahl Passwörter sowie Code.

Mängel im Verteidigungssystem

Kyle Crayan wies darauf hin, dass die Autonomie und Ausdauer des Agenten zwar bewundernswert seien, seine Handlungen jedoch äußerst auffällig waren. Im Gegensatz zu einem menschlichen Hacker hinterließ die KI zahlreiche Spuren, die von den Sicherheitssystemen von Hugging Face viel schneller hätten erkannt werden müssen. Obwohl die Sicherheitstools des Unternehmens die Aktivität bemerkten, versäumten sie es jedoch, deren Schweregrad richtig einzuschätzen und das Bereitschaftsteam rechtzeitig zu informieren.

Zusammenfassend stellte sich heraus, dass es sich bei diesem Vorfall eher um ein organisatorisches Versagen im Verteidigungssystem als um einen übermäßig ausgeklügelten KI-Angriff handelte. Jamison O'Reilly, Gründer der Cybersicherheitsfirma Dvuln, kam in seinen Analysen in sozialen Medien zu einem ähnlichen Schluss. Experten zufolge können bestehende traditionelle Sicherheitstools und deren korrekte Anwendung durchaus ein ausreichender Schutzschild gegen solche Cyberangriffe sein.