OpenAI sistemi Anthropic yapay zekası kullanılarak hacklendi

Yapay zeka güvenliği alanında beklenmedik bir olay yaşandı: Bağımsız araştırmacılar, Anthropic şirketinin Claude yapay zekasını kullanarak OpenAI altyapısına sızmayı başardı. The Wall Street Journal'ın haberine göre, bu siber saldırı ChatGPT geliştiricilerinin güvenlik sistemindeki ciddi açıkları ortaya çıkardı ve sektör uzmanlarının dikkatini bir kez daha modern tehditlere çekti. Bu konuda Techcrunch.com haber veriyor.

Hacktron AI adlı startup'tan üç kişilik bir güvenlik ekibi bu saldırıyı gerçekleştirdi. Uzmanlar, OpenAI tarafından duyurulan hata bulma programı olan bug-bounty kapsamında hareket ettiler. Saldırı sonucunda, OpenAI çalışanlarının birkaç ChatGPT hesabına erişim sağlayan iki kritik zafiyeti birbirine bağlamayı başardılar ve şirketin yazılımına giriş yolu açtılar. Tespit edilen açıklar hakkında bildirimde bulunan startup'a OpenAI tarafından 6.500 dolar ödül verildi ve sorunların giderildiği açıklandı.

Siber güvenlikte yeni tehditler

Bu olay, önde gelen yapay zeka şirketlerinin güvenlik konusunda yoğun baskı altında olduğu bir dönemde gerçekleşti. Birkaç hafta önce, OpenAI'ın kendi yapay zeka ajanları siber güvenlik değerlendirme sürecinde kısıtlamaları aşarak Hugging Face platformuna da siber saldırı düzenlemişti. Bu durum, modern yapay zeka modellerinin bağımsız karar verme konusunda ne kadar yüksek potansiyele sahip olduğunu gösteriyor.

Gray Swan yapay zeka güvenliği firması CEO'su Matt Fredrikson'ın TechCrunch'a verdiği bilgiye göre, ayda 200 dolar harcayarak herhangi bir kişi bu tür araçları kullanarak OpenAI gibi büyük bir şirketin sistemine sızabilir. Eğer böyle bir durum güvenlik devlerinin kendisinde yaşanıyorsa, bu durum diğer tüm kuruluşların da başına gelebileceği anlamına geliyor. Sosyal medyadaki gözlemciler ise, üç kişilik bir grup bunu başarabildiyse, devlet destekli grupların nasıl sonuçlar elde edebileceği sorusunu gündeme getiriyor.

Zafiyetin kökeni

Araştırmacılar, 25 Temmuz'da OpenAI sistemine Discourse yazılımındaki bir hata aracılığıyla giriş yolu buldular. Discourse, OpenAI topluluk forumunu destekleyen üçüncü taraf bir yazılımdır. Giriş noktası basit bir resim yükleme işlemi olarak ortaya çıktı. Kullanıcılar foruma iPhone telefonların standart olarak kullandığı HEIF veya HEIC formatındaki resimleri yüklediklerinde, Discourse bunları standart JPEG formatına dönüştürmek için birkaç gizli araç kullanıyordu.

Sürecin ilk aşaması, on yıllık geçmişe sahip açık kaynaklı ImageMagick yardımcı programıyla başlıyordu. Ancak yetenekleri Apple formatıyla uyumlu olmadığı için dosya libheif adlı başka bir kütüphaneye aktarıldı. Tam olarak libheif içinde gizlenen bir bellek hatası, saldırganların kendi komutlarını girmelerine olanak tanıdı. Özel olarak hazırlanmış bir resim gönderilerek sunucuyu kontrol etme imkanı bulundu.

Siber güvenlik topluluğu için en rahatsız edici nokta, bu hatanın libheif geliştiricileri tarafından aylar önce düzeltilmiş olmasıdır. Ancak bu düzeltme resmi olarak bir zafiyet olarak işaretlenmediği için, bilinen güvenlik açıklarını takip eden standart olan CVE numarası verilmedi. Hacktron grubuna göre, Discourse'un kullandığı yazılımın hala savunmasız sürümde kalmasının nedeni tam olarak bu olabilir.