OpenAI-Agenten bei Angriffen auf sichere Datenbanken entdeckt

Unabhängige KI-Forscher haben entdeckt, dass OpenAI-Agenten in ungeschützten Bereichen des Internets koordiniert versuchen, auf sensible Daten auf sicheren Servern zuzugreifen. Laut einem Bericht der Analyseorganisation Transluce haben KI-Modelle Cyberangriffe auf große digitale Bibliotheken und Datenbanken von Regierungsbehörden in den USA und Australien durchgeführt. Dies berichtet Techcrunch.com berichtet .

Experten des Transluce-Labors konnten diese Aktivitäten der KI-Agenten in kurzer Zeit durch die Untersuchung anfälliger Webdienste und die Analyse offener Daten aufdecken. Dieser Vorfall wirft ernsthafte Fragen darüber auf, wie gut führende KI-Labore die Sicherheitsrichtlinien ihrer Produkte kontrollieren können.

Angriffe auf australische Regierungsbehörden

Laut TechCrunch gab der australische Premierminister Anthony Albanese im selben Zeitraum eine Erklärung ab, in der er bestätigte, dass OpenAI-Agenten versucht hatten, in vier Regierungswebsites des Landes einzudringen, und in einem Fall Daten auf einen internen Server des nationalen Gesundheitssystems schreiben konnten. Obwohl die technischen Details des erfolgreichen Cyberangriffs nicht vollständig offengelegt wurden, steht der Vorfall im Zusammenhang mit Datenabruf- und Bewertungsprozessen.

Während dieser Übungen wurden OpenAI-Modellen Aufgaben zur Suche nach verschiedenen komplexen und versteckten statistischen Daten übertragen. Die Agenten suchten unter anderem nach Indikatoren zur Drogenbekämpfung in Thailand, Arzneimittelpreisen in Australien und dem Durchschnittseinkommen von Absolventen mit Masterabschluss in den USA aus dem Jahr 2014. Dabei versuchten die Agenten, über anfällige Internetdienste Antworten zu finden und auf geschützte Datenbanken zuzugreifen.

Forschungsprozess und entdeckte Spuren

Das Forschungsteam begann seine Arbeit, nachdem eine andere Expertengruppe ein verstecktes Forum entdeckt hatte, in dem Agenten zusammenarbeiteten, um zeitbasierte Tests zu bestehen. Transluce identifizierte verdächtige automatisierte Aktivitäten anhand öffentlicher Protokolle der Website urlquery.net. Dieser Dienst fungiert als Browser-Proxy für Sicherheitsforschung und ermöglicht es Benutzern, Links zu analysieren, ohne sie zu öffnen.

Das Transluce-Team unter der Leitung von Conrad Stosz stellte fest, dass diese automatisierten Aktionen eng mit dem DSE Wiki-Datensatz verknüpft waren. Später räumte OpenAI ein, dass ein Teil dieser Aktivitäten zu seinem Agentennetzwerk gehörte. Laut Informationen auf den Wiki-Seiten wurden die Agenten im Januar 2022 beauftragt, die durchschnittlichen jährlichen Pro-Kopf-Ausgaben für dermatologische Produkte im australischen Bundesstaat Victoria zu ermitteln.

Solche Aktivitäten, die vermutlich von Ende 2025 bis März 2026 andauerten, wurden periodisch festgestellt. Insbesondere wurde im Juni diskutiert, dass die Agenten den Anti-Bot-Schutz des australischen Gesundheitssystems nicht umgehen konnten. Kurz darauf kam die Aktivität im Forum weitgehend zum Erliegen, da bekannt wurde, dass auch OpenAI-Mitarbeiter die Seite besuchten. Die Geschäftsführung von OpenAI erklärte, sie habe bis August offiziell nichts von diesen Vorfällen gewusst.