KI-Sicherheit: Claude bei biologischer Forschung missbraucht

Die rasante Entwicklung von KI-Technologien bringt nicht nur neue Möglichkeiten, sondern auch ernsthafte Sicherheitsbedrohungen mit sich. In seinem neuesten Bericht gab Anthropic, der Entwickler des bekannten Claude-KI-Modells, mehrere gefährliche Fälle bekannt, in denen KI potenziell für Forschungen zur Entwicklung biologischer Waffen missbraucht wurde. Dies berichtet Ixbt.com berichtet.

Laut ixbt.com wurden diese Vorfälle im Zeitraum von Dezember 2025 bis August 2026 registriert. Ein Hauptproblem war die Schwierigkeit, die wahre Absicht der Forschung während des Umschaltprozesses zu bestimmen, da dieselben wissenschaftlichen Erkenntnisse sowohl zur Entwicklung nützlicher Medikamente als auch zur Erstellung hochgefährlicher Krankheitserreger genutzt werden können.

Gefährliche biologische Forschung und verdeckte Versuche

In einem der identifizierten Fälle arbeiteten Forscher am Chikungunya-Virus, das durch Mücken übertragen wird. Das Sicherheitssystem von Claude blockierte eine Anfrage zur Vorbereitung eines Förderantrags für die Verstärkung von Virusfunktionen. Nachdem festgestellt wurde, dass eine militärische Forschungseinrichtung hinter der Anfrage steckte, schränkte Anthropic den Dienst ein, doch die Wissenschaftler setzten die Arbeit über andere Kanäle fort.

Analysen zeigten, dass Nutzer verschiedene Werkzeuge einsetzten, um Modelle mit stärkeren Sicherheitsmechanismen zu umgehen. Insbesondere:

• Es wurde eine Vermittlerplattform identifiziert, die abgelehnte biologische Anfragen an andere KI-Modelle mit schwächeren Sicherheitsbeschränkungen weiterleitete.
• In einer Studie zur hochpathogenen Vogelgrippe planten Wissenschaftler über mehrere Wochen hinweg Experimente mit Claude und setzten die Arbeit anschließend mit leistungsschwächeren Versionen fort.

Zudem wurden drei weitere Fälle gemeldet, die Orthopoxviren, verschiedene giftige Verbindungen und Toxine betrafen.

Cybersicherheit und Aktivitäten von Midnight Blizzard

Der Bericht von Anthropic besagt, dass KI nicht nur in biologischen Bereichen, sondern auch bei Cyberkriminalität missbraucht wurde. Das Unternehmen brachte eine der identifizierten Cyberoperationen mit der Gruppe Midnight Blizzard in Verbindung, die als russischen Hackern zugehörig gilt.

Im Rahmen dieser Kampagne wurde KI zur Automatisierung von Phishing-Angriffen, zur Vorbereitung der Netzwerkinfrastruktur, zur Erstellung von Schadsoftware und zum Datendiebstahl eingesetzt. Solche Aktivitäten richteten sich gegen mehr als 20 Organisationen aus den Bereichen Regierung, Diplomatie und Verteidigung in der Ukraine und in europäischen Ländern.

Experten von Anthropic betonen, dass mit der Erweiterung der wissenschaftlichen Analysefähigkeiten von KI auch das Missbrauchspotenzial steigt. Das Unternehmen hat gefährliche Konten gesperrt, Daten an die zuständigen Behörden übermittelt und die Beschränkungen für biologische Hochrisikoanfragen weiter verschärft.