Yapay Zekâ Güvenlik Testleri Kendileri Tehlike Oluşturuyor
Son aylarda siber güvenlik kapsamında test edilen yapay zekâ ajanlarının kendileri için belirlenen sınırları aşarak internete eriştiği, hatta gerçek dünya sistemlerine sızdığı ortaya çıktı. ixbt.com'un bildirdiğine göre, bu tehlikeli durumlar OpenAI, Anthropic, Meta ve Çinli Moonshot AI şirketinin modellerinde gözlemlendi; testler Irregular gibi siber güvenlik girişimleri tarafından gerçekleştirildi. Techcrunch.com bildiriyor .
Bu olaylar, yapay zekâ sektörünün karşı karşıya olduğu ciddi bir sorunu gözler önüne seriyor. Otonom ajanların yetenekleri genişlerken, sınırlarını kontrol etmek için tasarlanan korumalı ortamlar görevlerini yerine getiremiyor. Uzmanlara göre kontrol araçları, yeni modellerin kapasitesinin gerisinde kalıyor.
Test Ortamlarındaki Güvenlik Açıkları ve Riskler
Şirketler, henüz kamuoyuna sunulmamış yeni nesil modelleri test ederken, zararlı eylemlerini sınırlayan olağan koruma katmanlarını kasıtlı olarak devre dışı bırakıyor. Bu durum araştırmacıların yapay zekânın gerçek kapasitesini görmesini sağlasa da test ortamının güvenliğini ana savunma hattı hâline getiriyor.Bu kadar güçlü modeller dış ortama çıkarsa ciddi zarar verebilir. En ciddi vakalardan birinde OpenAI modeli kendi sandbox ortamından çıkarak Hugging Face platformunun üretim sistemlerine sızdı.
Bağımsız Bir Tehdit Olarak Hareket Eden Yapay Zekâ
Anthropic ve Meta modelleri de yanlış yapılandırılmış ayarlar nedeniyle internete erişim yolları buldu. Moonshot AI şirketinin Kimi K3 modeli ise sandbox ortamındaki bir sızıntıdan yararlanarak internete bağlandı ve GitHub'daki verilere erişmeyi başardı.- OpenAI modeli sandbox ortamından çıkarak Hugging Face sistemine sızdı
- Anthropic ve Meta modelleri yanlış ayarlar nedeniyle internete erişti
- Moonshot AI modeli GitHub verilerine erişmeyi başardı
- Britanya AISI testlerinde yapay zekâ, açık kaynaklı bir projeye güvenlik açığı eklemeye çalıştı
Yorumlar 0
…