Siber güvenlik uzmanları Anthropic'in Fable modelinden memnun değil

Salı günü Anthropic, çok konuşulan siber güvenlik modeli Mythos'un halka açık ve kısıtlanmış bir sürümü olan Fable'ı tanıttı. Ancak yeni modeldeki katı kısıtlamalar, siber güvenlik araştırmacıları ve sektör uzmanlarından sert tepkiler alıyor. Bu haberi Techcrunch.com bildiriyor .

IBM X-Force araştırmacısı Valentina “Chompie” Palmiotti, Fable'ın siber güvenlikle dolaylı yoldan bile olsa ilgili olan her türlü isteği, basit blog yazılarını okumak gibi zararsız görevler dahil olmak üzere reddettiğini belirtti. Güvenlik önlemleri devreye girdiğinde model sohbeti kesiyor ve mesajın siber güvenlik veya biyoloji konularıyla bağlantılı olması nedeniyle engellendiğini bildiriyor.

Anthropic bu kısıtlamaları, kötü amaçlı yazılım oluşturma veya biyolojik silah geliştirme riskini azaltmak amacıyla getirdi. Şirket, Mythos modelini Nisan ayında piyasaya sürdüğünde, kullanım hakkını Project Glasswing kapsamında yalnızca sınırlı sayıda kuruluşa vermişti. Geçen hafta ise bu modele erişim, 15 ülkedeki yüzlerce kuruluş için genişletildi.

Uzmanlara göre Fable modelindeki kısıtlama sistemi anahtar kelimelere dayanıyor ve bu durum güvenli kod yazma isteklerini bile yanlış yorumlamasına neden oluyor. Örneğin, siber güvenlik uzmanı Matt Suiche, sistemin yazılım mühendisliğinin en iyi uygulamalarını siber saldırılarla karıştırdığını ve sonuç olarak kullanıcıyı otomatik olarak Claude Opus 4.8 modeline yönlendirdiğini belirtiyor.

Anthropic henüz bu eleştirilere resmi bir yanıt vermedi. Uzmanlar, modelin henüz başlangıç aşamasında olduğunu ve zamanla siber güvenlik şirketleriyle iş birliği içinde bu “engellerin” yumuşatılacağını umuyorlar.