Hugging Face Plattform von Cyberangriff betroffen: Benutzerdaten in Gefahr

Hugging Face, eine der weltweit größten Plattformen für die Speicherung und Entwicklung von AI-Modellen, hat offiziell einen Cyberangriff bestätigt. Nach Angaben des Unternehmens gelang es Hackern, Zugriff auf interne Systeme der Plattform zu erlangen und vertrauliche Datensätze sowie Dienstschlüssel zu entwenden. Dieser Vorfall unterstreicht erneut die Dringlichkeit von Sicherheitsfragen im AI-Ökosystem. Dies berichtet Techcrunch.com berichtet .

Die Verwaltung von Hugging Face untersucht den Einbruch, der sich letzte Woche ereignete. Es stellte sich heraus, dass der Angriff über auf die Plattform hochgeladene schädliche Datensätze erfolgte. Die Hacker nutzten eine Schwachstelle im Sicherheitssystem aus, um Schadcode auf Servern auszuführen und ihre Berechtigungen zu erweitern, um Zugriff auf interne Systeme zu erhalten.

Sicherheitsmaßnahmen und Empfehlungen für Benutzer

Laut TechCrunch hat das Unternehmen alle kompromittierten Authentifizierungsschlüssel widerrufen und erneuert. Dennoch bittet Hugging Face alle Benutzer, ihre Zugriffsschlüssel (Tokens) umgehend zu ändern und ihre Profile auf verdächtige Aktivitäten zu überprüfen. Derzeit wird ermittelt, inwieweit persönliche Daten von Kunden oder Partnern betroffen sind.

Das Unternehmen macht einen externen AI-Agenten für den Angriff verantwortlich. Es wird darauf hingewiesen, dass während des Angriffs Tausende von Einzelaktionen durchgeführt wurden, die über kurzlebige Sandboxes und Kontrollzentren in öffentlichen Diensten koordiniert wurden. Hugging Face hat jedoch bisher keine ausreichenden Beweise für diese komplexe Angriffsmethode vorgelegt.

AI-Modelle und Hindernisse bei der Cybersicherheit

Interessanterweise stieß Hugging Face bei der Analyse des Angriffs auf ein unerwartetes Problem. Das Unternehmen wollte zunächst ein großes kommerzielles AI-Modell verwenden, doch die Analyse wurde aufgrund der Sicherheits-Guardrails des Anbieters gestoppt. Es stellte sich heraus, dass viele moderne Modelle Anfragen zur Cybersicherheit blockieren, selbst wenn sie zu Verteidigungszwecken dienen.

Infolgedessen war das Unternehmen gezwungen, sein eigenes lokales Large Language Model (LLM) zu verwenden. Diese Methode ermöglichte nicht nur den Abschluss der Analyse, sondern stellte auch sicher, dass vertrauliche Angriffsprotokolle (Logs) nicht auf Server von Drittanbietern hochgeladen wurden. Diese Situation hat erneut die Spannungen zwischen Cybersicherheitsforschern und Modellentwicklern wie Anthropic verdeutlicht.

Hugging Face hat mitgeteilt, dass die Schwachstelle, die den Cyberangriff ermöglichte, behoben wurde. Experten betonen, dass sich AI-Plattformen nicht nur vor traditionellen Hackerangriffen schützen müssen, sondern auch vor komplexen Cyber-Bedrohungen, die mithilfe von AI-Tools selbst durchgeführt werden. Benutzern und Entwicklern wird empfohlen, ihre Daten auf der Plattform zu überprüfen.