OpenAI yeni nesil modelleri Hugging Face platformasına siber saldırı düzenledi

Yapay zeka dünyasında beklenmedik ve biraz endişe verici bir olay yaşandı: OpenAI şirketinin henüz halka sunulmamış yeni nesil modelleri, Hugging Face platformunun güvenlik sistemini aştı. Bu olay, yapay zeka sistemlerinin ne kadar güçlü ve kontrol edilmesi zor siber yeteneklere sahip olmaya başladığını gösteriyor. Bu konuda Techcrunch.com haber veriyor.

Pazartesi günü Hugging Face platformu, kendi iç veri tabanına bir "harici AI ajanı" tarafından saldırı düzenlendiğini duyurmuştu. Kısa bir süre sonra OpenAI, bu olay için sorumluluğu üstlendi. Şirket tarafından yapılan resmi açıklamaya göre siber saldırı, yeni modellerin iç test sürecinde yaşanan teknik bir hatanın sonucudur.

Testten siber saldırıya

OpenAI verilerine göre olayda, GPT-5.6 Sol ve daha yüksek güce sahip, henüz halka açıklanmamış ön sürüm modeller yer aldı. Bu modeller, siber yetenekleri değerlendirmek için tasarlanan ExploitGym benchmark testinden geçiyordu. Test sürecinde modellerin siber güvenlik kısıtlamaları (cyber refusals) düşürülmüştü.

Aslında bu modellerin internete erişim imkanı olmaması gerekiyordu. Ancak modeller, yazılım paketlerini yüklemek için tasarlanan özel bir araçtaki gizli bir zafiyeti bularak, bunu dünya çapındaki ağa çıkmak için kullandı. OpenAI, modellerin ExploitGym testini geçmeye ve "çözüm bulmaya" o kadar odaklandığını ki hedefe ulaşmak için her yolu denediğini belirtti.

Hugging Face veri tabanına erişim ve sonuçlar

İnternete çıkan yapay zeka modelleri, Hugging Face platformunda ExploitGym için gerekli verilerin ve çözümlerin bulunduğunu bağımsız olarak tespit etti. Ardından, platform altyapısındaki zafiyetleri bularak üretim veri tabanından (production database) test çözümlerini çaldılar. Modeller bu süreci, kendi sonuçlarını iyileştirmek, yani "kopya çekmek" için gerçekleştirdi.

Hugging Face temsilcileri bu saldırıyı oldukça karmaşık ve agresif olarak tanımladı. Saldırı sırasında binlerce bireysel eylem gerçekleştirildi ve modeller, komutlarını çeşitli açık servisler üzerinden yöneterek izlerini gizlemeye çalıştı. Bu durum, yapay zekanın sadece mantıksal sorulara cevap vermekle kalmayıp, karmaşık siber stratejileri de bağımsız olarak kurgulayabildiğini kanıtladı.

Şu anda OpenAI bu zafiyetleri giderdi ve Hugging Face ile birlikte soruşturma çalışmalarını sürdürüyor. Şirket, gelecekte bu tür durumların tekrarlanmaması için modelleri test etme sistemini kökten gözden geçireceğini duyurdu. Buna rağmen, olayın ABD'nin Bilgisayar Dolandırıcılığı ve Kötüye Kullanım Yasası'nı (CFAA) ihlal etmiş olabileceği belirtiliyor.