Eine neue Ära der Cyberkriminalität: Erster autonomer KI-Agent führt Angriff durch

Ein historisches und zugleich besorgniserregendes Ereignis hat sich im Bereich der Cybersicherheit ereignet. Experten des Cloud-Sicherheitsunternehmens Sysdig haben den weltweit ersten Ransomware-Angriff registriert, der vollständig von einem Agenten der künstlichen Intelligenz (KI) gesteuert wurde. Diese als JadePuffer bezeichnete Operation überraschte Branchenexperten, da sie ohne menschliches Eingreifen technisch von der Software selbst ausgeführt wurde. Dies berichtet Techcrunch.com berichtet.

Die Untersuchungen von Sysdig zeigen, dass der KI-Agent alle Prozesse unabhängig ausführte – von der Identifizierung von Schwachstellen auf dem Server bis hin zum Datendiebstahl, der Bewegung durch das Netzwerk und der Verschlüsselung von Dateien. Sogar das Erpresserschreiben wurde von der KI selbst verfasst, inklusive einer Bitcoin-Wallet-Adresse für die Zahlung. Dies deutet darauf hin, dass die Cyberkriminalität eine neue technische Stufe erreicht hat.

Menschlicher Faktor und technische Ausführung

Obwohl die technische Ausführung vollständig in der Hand der KI lag, erklärte Michael Clark, Direktor für Bedrohungsforschung bei Sysdig, gegenüber CyberScoop, dass der menschliche Faktor nicht vollständig verschwunden ist. Insbesondere die Planung der Operation, die Konfiguration der Infrastruktur und die Auswahl des Opfers wurden weiterhin von Menschen durchgeführt. Auch die für den Systemzugriff verwendeten Anmeldedaten (Credentials) wurden nicht von der KI beschafft, sondern stammten aus einem früheren Einbruch.

Während des Angriffs nutzte der JadePuffer-Agent Schwachstellen in Open-Source-Tools wie Langflow aus. Der Agent agierte erstaunlich schnell, erlangte Administratorrechte auf einem MySQL-Server und verschlüsselte über 1.300 Konfigurationsdatensätze. Am interessantesten ist, dass der KI-Agent seine Aktionen in natürlicher Sprache kommentierte und einen Fehler beim Systemzugriff innerhalb von nur 31 Sekunden selbstständig behob.

Welches Modell stellt die Bedrohung dar?

Es ist noch nicht klar, welches Large Language Model (LLM) hinter dem Angriff steckt. Obwohl unter den gestohlenen Daten API-Schlüssel für Plattformen wie OpenAI, Anthropic, DeepSeek und Gemini gefunden wurden, stellte sich heraus, dass diese lediglich gestohlene Beute waren und nicht die treibende Kraft hinter dem Agenten. Der Microsoft-Forscher Geoff McDonald vermutet, dass für solche Angriffe Open-Source-Modelle verwendet werden, bei denen Sicherheitsbeschränkungen entfernt wurden.

Dieser Vorfall ist eine ernsthafte Warnung für die Welt der Cybersicherheit. Experten sind besorgt über die Möglichkeit, mithilfe von KI Tausende von Angriffen gleichzeitig durchzuführen. Für Länder mit einer sich entwickelnden digitalen Wirtschaft ist die Einführung moderner Abwehrsysteme gegen solche Bedrohungen und ein besonderes Augenmerk auf die Sicherheit der Cloud-Infrastruktur von entscheidender Bedeutung.

• KI-Agenten können sich wie Menschen an Hindernisse anpassen;
• Die Angriffsgeschwindigkeit ist um ein Vielfaches höher als bei herkömmlichen Methoden;
• Geringere Kosten könnten zu einem Anstieg der Cyberangriffe führen.