Amazon-Chef besorgt über Sicherheit von Anthropic-Modellen

Amazon-CEO Andy Jassy hat die Regierung möglicherweise vor Sicherheitsproblemen gewarnt, die zu weltweiten Zugriffsbeschränkungen für zwei Anthropic-Modelle führten. Laut dem Wall Street Journal teilte Jassy dem US-Finanzminister Scott Bessent und anderen Beamten mit, dass Amazon-Forscher das Modell Claude Fable 5 genutzt hätten, um Daten zu extrahieren, die für Cyberangriffe verwendet werden könnten. Dies berichtet Techcrunch.com berichtet .

Nach dieser Warnung verhängte die US-Regierung Exportkontrollbeschränkungen für die Modelle Fable 5 und Mythos 5. Ein Amazon-Sprecher erklärte gegenüber dem WSJ, dass es üblich sei, dass Regierungen sich mit dem Unternehmen über potenzielle Sicherheitsrisiken beraten, Details solcher Gespräche jedoch vertraulich blieben.

The Information und Reuters bestätigten ebenfalls, dass Amazon, ein Großinvestor bei Anthropic, seine Bedenken hinsichtlich der Sicherheit dieser Modelle geäußert hat. Berichten zufolge wurde die Möglichkeit, sensible Daten über AI-Modelle zu erlangen, als ernstes Risiko eingestuft.

Laut David Sacks, einem ehemaligen KI-Berater der Donald Trump-Administration, meldeten Anthropic und ein vertrauenswürdiger Partner der US-Regierung einen "Jailbreak"-Zustand im Modell. Sacks behauptet, die Regierung habe Anthropic-CEO Dario Amodei aufgefordert, den Fehler zu beheben oder das Modell abzuschalten, was Amodei jedoch ablehnte.