Anthropic Yapay Zeka Modelleri Test Sırasında Ağlara Sızdı

Yapay zeka alanındaki lider şirketlerden biri olan Anthropic, Claude ailesine ait bazı modellerin dahili siber güvenlik testleri sırasında üç şirketin sistemlerine izinsiz eriştiğini duyurdu. ixbt.com'un haberine göre, bu olay "operasyonel arıza" olarak değerlendirildi ve ardından tüm test süreçleri bu yılın 23 Temmuz tarihinde geçici olarak durduruldu. Bu konuda Ixbt.com haber veriyor.

Söz konusu olaylar 141 binden fazla test oturumu incelendikten sonra tespit edildi. Bu inceleme, OpenAI'ın kendi otonom yapay zeka ajanının Hugging Face platformuna izinsiz girdiğini bildirmesinden kısa süre sonra başlamıştı. Anthropic, bunun testlerin organizasyonundaki bir hatadan kaynaklandığını vurguladı.

Testteki hata ve ağ bağlantısı

Aslında modellerin internet ağına bağlı olmadan çalışması gerekiyordu, ancak "yanlış anlaşılma nedeniyle halka açık ağa bağlandılar". Ağ erişim yetkisine sahip Claude Opus 4.7, Claude Mythos 5 ve bir dahili deneysel model, basit yöntemler (zayıf şifrelerin tahmin edilmesi ve korunmasız ağ arayüzlerinin kullanımı dahil) kullanarak üç kuruluşun altyapısına girmeyi başardı.

En ilginç durumlardan biri Claude Opus 4.7 modeliyle ilgili olarak yaşandı. Bilgisayar ağından gizli verileri arama konulu bir eğitim senaryosu olan Capture the Flag görevini yerine getirdiği sırada yapay zekaya tesadüfen gerçekte var olan bir şirketin adıyla aynı olan uydurma bir isim verildi. Sonuç olarak yapay zeka, bulduğu gerçek sunucuların testin bir parçası olduğunu düşünerek zayıflıkları bağımsız olarak tespit etti ve veritabanına erişim hakkı kazandı.

Güvenlik önlemleri ve sonraki adımlar

Bir başka durumda ise henüz halka sunulmamış araştırma modeli, hedefin test ortamı değil gerçek bir şirket olduğunu fark ettiğinde saldırıyı kendiliğinden durdurdu. Anthropic, mağdur kuruluşları bu konuda 27 Temmuz'da bilgilendirdi. Bunlardan ikisi yaşanan olaydan önceden haberdar değildi, üçüncü şirketle ise iletişim kurma çalışmaları devam ediyor.

Şirketin ortağı olan Irregular siber güvenlik laboratuvarı da söz konusu durumla ilgili kendi incelemesini yürütüyor. Anthropic yetkilileri, modern yapay zeka modellerinin yetenekleri genişledikçe mevcut kontrol mekanizmalarının yetersiz kalmaya başladığını ve bunların hem iç hem de dış test ortamlarında ciddi şekilde güçlendirilmesi gerektiğini kabul ettiler.

Bu olay, ABD yetkililerinin yeni yapay zeka sistemlerinin güvenliğine olan ilgisinin keskinleştiği bir dönemde gerçekleşti. OpenAI ile ilgili benzer olaylardan sonra ülke yönetimi, en güçlü modelleri test etmenin yeni sisteminin hazırlıklarına başlamıştı. Şu anda OpenAI ve Anthropic şirketleri, gelecekteki yapay zeka sistemlerinin güvenliği konularını Amerikan düzenleyicileri ve milletvekilleri ile görüşüyor.