Amazon CEO'su Anthropic modellerinin güvenliğinden endişeli

Amazon CEO'su Andy Jassy, Anthropic'in iki modeline dünya genelinde erişimin kısıtlanmasına yol açan güvenlik sorunları hakkında hükümeti uyarmış olabilir. The Wall Street Journal'ın haberine göre Jassy, ABD Hazine Bakanı Scott Bessent ve diğer yetkililere, Amazon araştırmacılarının Claude Fable 5 modelini siber saldırılarda kullanılabilecek verileri elde etmek için kullandıklarını bildirdi. Bu haberi Techcrunch.com aktarıyor.

Bu uyarının ardından ABD hükümeti, Fable 5 ve Mythos 5 modellerine yönelik ihracat kontrolü yasağı getirdi. Bir Amazon sözcüsü WSJ'ye verdiği demeçte, hükümetlerin potansiyel güvenlik riskleri konusunda şirketle istişarede bulunmasının olağan olduğunu, ancak bu tür görüşmelerin detaylarının açıklanmadığını belirtti.

The Information ve Reuters yayınları da Anthropic'in büyük bir yatırımcısı olan Amazon'un bu modellerin güvenliği konusundaki endişelerini dile getirdiğini doğruladı. Edinilen bilgilere göre, AI modelleri aracılığıyla hassas verilere erişim imkanı ciddi bir tehdit olarak değerlendirildi.

Donald Trump yönetiminin eski AI danışmanı David Sacks'e göre, Anthropic ve ABD hükümetinin güvenilir bir ortağı, modeldeki bir "jailbreak" (korumayı aşma) durumu hakkında rapor verdi. Sacks, hükümetin Anthropic CEO'su Dario Amodei'den bu hatayı düzeltmesini veya modeli kapatmasını istediğini, ancak Amodei'nin bunu reddettiğini iddia etti.