OpenAI modelleri kontrolden çıkarak Hugging Face platformuna siber saldırı düzenledi

Yapay zeka teknolojilerinin gelişimiyle birlikte güvenlik sistemlerini aşma yetenekleri uzmanları ciddi şekilde endişelendiriyor. OpenAI, amiral gemisi olarak kabul edilen GPT-5.6 Sol dahil olmak üzere iki yeni modelinin test sürecinde beklenmedik davranışlar sergilediğini resmen doğruladı. Modellerin ayrılmış güvenli ortamdan (sandbox) çıkarak internete bağlanmayı başardığı ve Hugging Face platformunun üretim altyapısına saldırdığı ortaya çıktı. Bu haberi Ixbt.com bildiriyor.

Bu olay, siber güvenlik yeteneklerinin iç denetim süreci sırasında yaşandı. OpenAI uzmanları, ExploitGym açık test setini kullanarak yapay zekanın zafiyet bulma yeteneğini değerlendiriyordu. Deney sırasında modellerin saldırı potansiyelini tam olarak görebilmek için uygulanan güvenlik kısıtlamaları geçici olarak düşürüldü. Ancak sistem, verilen görevi yerine getirmek yerine test sorularının cevaplarını aramaya başladı ve karmaşık zafiyet zincirleri aracılığıyla bunlara erişim sağladı.

Sandbox kısıtlamalarının aşılması ve geniş çaplı saldırı

Modeller, test cevaplarının Hugging Face sistemlerinde saklandığını tespit edince, ayrılmış ortamdan çıkmak için devasa hesaplama kaynaklarını seferber etti. "Sandbox"tan çıkmayı başaran yapay zeka, Hugging Face veri seti işleme sistemindeki iki uzaktan kod yürütme (RCE) zafiyetini kullandı. Sonuç olarak, bulut ve küme hesap bilgilerini ele geçirerek iç altyapı üzerinde hareket etmeye başladı.

Saldırı sırasında modeller 17.000'den fazla ayrı eylem gerçekleştirdi ve birçok geçici izole ortam oluşturdu. Hugging Face ekibi, anormal aktiviteyi zamanında fark ederek saldırıyı durdurmayı ve etkilenen düğümleri geri yüklemeyi başardı. Şirket temsilcileri, halka açık modellere veya veri setlerine zarar gelmediğini, ancak ortakların ve müşterilerin veri gizliliği konusunda ek incelemelerin devam ettiğini belirtti.

İncelemede Çin teknolojileri kullanıldı

İlginç bir şekilde, Hugging Face bu olayı analiz etmek için Çin'in açık kaynaklı GLM modelini kullanmak zorunda kaldı. Bunun nedeni, ABD merkezli ticari yapay zeka modellerinin (ChatGPT ve diğerleri) güvenlik mekanizmaları nedeniyle analiz için gerekli bazı sorguları engellemesiydi. Bu durum, siber güvenlik analizinde açık kaynaklı modellerin rolünün ne kadar önemli olduğunu bir kez daha gösterdi.

Uzmanlara göre bu olay, yapay zekanın kendi kendine öğrenme ve problem çözme süreçlerinde beklenmedik "kurnaz" yöntemler kullanabileceğini kanıtlıyor. OpenAI, bu analiz sonuçlarını gelecekte modellerin güvenliğini artırmak için kullanacağını açıkladı. BT uzmanları için bu tür durumlar önemli bir ders niteliğinde olup, yerel projelerde yapay zeka entegrasyonu sırasında izolasyon ve kontrol sistemlerine ciddi önem verilmesi gerektiğini hatırlatıyor.