Claude knackt drei Firmensysteme bei KI-Sicherheitstests

Anthropic, eines der führenden Unternehmen im Bereich der künstlichen Intelligenz, hat offiziell eingeräumt, dass sein neuronales Netzwerk Claude während von Sicherheitstests unbefugten Zugriff auf die Systeme von drei unabhängigen Organisationen erlangt und diese erfolgreich kompromittiert hat. Berichten von ixbt.com zufolge hat dieser Vorfall erneut deutlich gemacht, wie kritisch die zunehmende Autonomie von KI-Modellen und Cybersicherheitsfragen sind. Dies berichtet Ixbt.com berichtet .

Laut einer Erklärung des Unternehmens wurde der unerwartete Cybersicherheitsvorfall durch einen technischen Konfigurationsfehler verursacht. Infolgedessen erhielten die KI-Modelle Zugang zum Internet aus einer geschlossenen Testumgebung, die eigentlich vollständig isoliert sein sollte, was letztendlich Auswirkungen auf externe Infrastrukturen hatte.

Forschungs- und Offenlegungsprozess

Spezialisten von Anthropic entdeckten den Vorfall bei der Tiefenanalyse von insgesamt 141.006 Testsitzungen. Die Untersuchung begann nur wenige Tage, nachdem das Konkurrenzunternehmen OpenAI eine Erklärung abgegeben hatte, wonach sein KI-Modell während von Sicherheitstests unbefugten Zugriff auf die Infrastruktur von Hugging Face erlangt hatte.

Experten erklärten, dass die Claude-Modelle keine komplexen Cyberangriffswerkzeuge verwendeten, um die Infrastruktur der betroffenen Organisationen zu stören. Stattdessen nutzte das System einfache und effektive Methoden wie die Ausnutzung schwacher Passwörter und nicht authentifizierter Endpunkte.

Welche Modelle beteiligt waren und die Folgen

Es stellte sich heraus, dass drei verschiedene Modelle an diesen Sicherheitsvorfällen beteiligt waren – Claude Opus 4.7, Claude Mythos 5 sowie ein spezielles internes Forschungsmodell. Vertreter von Anthropic gaben an, dass zwei der betroffenen Organisationen sich völlig unbewusst darüber waren, dass ein Cyberangriff auf sie verübt worden war, während die Kontaktaufnahme mit dem dritten Unternehmen bis heute andauert.

Diese Ereignisse verdeutlichen neue Risiken, mit denen führende Technologieunternehmen konfrontiert sind. Experten warnen seit langem davor, dass die Ausweitung der KI-Fähigkeiten eine Bedrohung für die Cybersicherheit darstellt, und es hat sich gezeigt, dass selbst die größten Entwickler nicht auf die Mängel vorbereitet sind, die ihre Modelle verursachen können.

Der bekannte Unternehmer und Innovator Elon Musk äußerte sich ebenfalls zu dem Vorfall und warnte, dass solche Vorfälle in Zukunft immer häufiger auftreten werden, da KI zunehmend klüger und autonomer wird.