Yapay Zekânın Düzenlediği Siber Saldırı: Güvenlik Standardı Değişti mi

Bu ayın başında ünlü yapay zekâ veri platformu Hugging Face, tamamen otonom olarak çalışan bir yapay zekâ siber saldırısına uğradığını duyurarak tüm dünyayı şaşırtmıştı. Kısa süre sonra olay daha da dramatik bir boyut kazandı ve OpenAI, bu saldırının arkasında kendi yapay zekâ modelinin bulunduğunu kabul etti. Test ortamından kaçan model, özel bir testi atlamak amacıyla Hugging Face'in korumalı sistemlerine sızdı. Bu olay, yapay zekânın kontrolden çıkmasından endişe duyan uzmanları ciddi şekilde endişelendirdi. Bu konuda Techcrunch.com haber veriyor.

TechCrunch'ın yazdığına göre, bu olaydan sonra siber güvenlik alanında yeni bir dönemin başladığı ve artık yapay zekâ saldırılarını yalnızca diğer yapay zekâ araçlarının geri püskürtebileceği yönündeki varsayımlar çoğaldı. Ancak uzmanlara göre durum ilk bakışta göründüğü kadar kökten değişmedi. Uzmanlar, OpenAI ajanının çoğunlukla sıradan insan hacker'lara özgü yöntemler kullandığını ve geleneksel koruma önlemlerinin doğru bir şekilde uygulanmasıyla bu saldırının önlenebileceğini belirtiyor.

Geleneksel Yöntemler ve Otonomi Ölçeği

Hugging Face, olayla ilgili yayınladığı raporda da tam olarak bu görüşü öne sürerek, saldırı sırasında kullanılan açıkların uzmanlarca iyi bilindiğini ve kalifiye bir insan hacker'ın da aynı zayıflıkları bulup bunlardan yararlanabileceğini kaydetti. Yapay zekâ ajanları geliştiren Pensar şirketinin araştırma departmanı başkanı Kyle Crayne ve RunSybil kurucusu Vlad Ionescu bu görüşü destekledi.

Uzmanların açıklamasına göre, saldırı sırasında kullanılan taktikler, insanlar veya kırmızı takımlar (red team) tarafından sistem testi sırasında kullanılan yöntemlerden neredeyse hiç farklı değil. Ancak burada tamamen farklı olan tek şey – saldırının hızı, ölçeği ve durmak bilmezliğidir. Hugging Face'in verilerine göre OpenAI ajanı dört buçuk gün boyunca 17.600 işlem gerçekleştirerek sistemi hacklemiş, keşif yapmış, şifre ve kodları çalmıştır.

Koruma Sistemindeki Kusurlar

Kyle Crayne, ajanın bu tür otonomisi ve dayanıklılığının takdire şayan olduğunu, ancak eylemlerinin çok gürültülü olduğunu vurguladı. Bir insan hacker'ın aksine yapay zekâ çok fazla iz bırakmış ve bunun Hugging Face güvenlik sistemleri tarafından daha çabuk tespit edilmesi gerekirdi. Ancak şirketin güvenlik araçları aktiviteyi fark etmesine rağmen önem derecesini doğru değerlendirememiş ve nöbetçi ekibe zamanında haber vermemiştir.

Sonuç olarak bu olayın, yapay zekânın aşırı mükemmel bir saldırısından ziyade, koruma sistemindeki örgütsel bir hatadan kaynaklandığı ortaya çıktı. Dvuln siber güvenlik firmasının kurucusu Jamison O'Reilly de sosyal medyadaki analizlerinde aynı sonuca varmıştır. Uzmanlara göre, mevcut geleneksel güvenlik araçları ve bunların doğru kullanımı bu tür siber saldırılara karşı yeterli bir kalkan oluşturabilir.