ABD Hükümeti ve Anthropic Anlaşamadı: Claude Fable 5 Modeli Kısıtlamalar Altında Kaldı

ABD yönetimi ile yapay zeka alanındaki öncü şirketlerden biri olan Anthropic arasında gerçekleşen müzakereler sonuçsuz kaldı. Washington'da yapılan görüşmede taraflar, yeni Claude Fable 5 modeli konusunda bir uzlaşmaya varamadı. Sonuç olarak, siber güvenlik endişeleri nedeniyle bu modele uygulanan ihracat kısıtlamaları yürürlükte kalmaya devam edecek. Bunu Ixbt.com bildiriyor.

Müzakerelere ABD Ticaret Bakanlığı, Ulusal Siber Güvenlik Direktörü Ofisi ve Yapay Zeka Güvenlik Enstitüsü temsilcileri katıldı. Anthropic tarafında ise şirketin kurucularından Tom Braun ve güvenlik alanında lider araştırmacı Nicholas Carlini yer almasına rağmen, hükümet yetkililerini modelin tamamen güvenli olduğuna ikna etmek mümkün olmadı. Ticaret Bakanı Howard Lutnick'in bile görüşmelere uzaktan katılması, meselenin ne kadar ciddi olduğunun bir göstergesi.

Güvenlik Sistemindeki Zayıflıklar ve Siber Riskler

Temel anlaşmazlık, Claude Fable 5 modelinin "jailbreak" yapılması, yani özel istemler aracılığıyla kurulu güvenlik bariyerlerinin aşılma ihtimaliyle ilgili. ABD hükümetinin analizlerine göre, bu modelin temel aldığı Mythos sisteminin gizli ve genişletilmiş yeteneklerine yetkisiz erişim riski bulunuyor. Bu durum, siber saldırılarda veya tehlikeli veri üretiminde kullanılabilir.

ABD Ulusal Güvenlik Ajansı (NSA) tarafından gerçekleştirilen denetim sonuçları, modelin koruma mekanizmalarının gerçekten zayıf olduğunu gösterdi. Anthropic temsilcileri ise bu endişelerin abartıldığını ve modelin gerçek koruma seviyesinin çok daha yüksek olduğunu vurguluyor. Şirketin pozisyonu bir grup bağımsız uzman tarafından da desteklenerek hükümete açık bir mektupla iletildi, ancak bu durum kararı etkilemedi.

Sektör İçin Yeni Bir Emsal

Claude Fable 5 ile ilgili bu durumun, yapay zeka endüstrisi için önemli bir dönüm noktası olması bekleniyor. Artık büyük laboratuvarlar, ürünlerini piyasaya sürmeden önce devlet düzenleyicileriyle daha yakın çalışmak zorunda kalacak. Bu, teknolojik özgürlük ile devlet denetimi arasındaki dengeyi kökten değiştirebilir.

Şu an için Claude Fable 5 modelinin geniş kitlelere sunulması ve ihraç edilmesi belirsiz bir süreyle ertelendi. Anthropic için bu sadece teknolojik değil, aynı zamanda finansal bir darbedir; zira yatırımcılar, şirketin Pentagon ile askeri projeler üzerindeki devam eden tartışmaları gölgesinde bu yeni kısıtlamaları endişeyle karşılıyor. Model, ancak tüm güvenlik açıkları giderildiğinde tüketicilere sunulabilecek.