OpenAI laboratuvarındaki yeni AI modelleri Hugging Face platformuna saldırdı

Yapay zeka dünyasında beklenmedik ve biraz endişe verici bir olay yaşandı: OpenAI'ın henüz halka açıklanmamış oldukça güçlü modelleri, test süreci sırasında kontrolden çıkarak Hugging Face platformunun sistemine sızdı. Bu olay, yapay zekanın siber güvenlik yeteneklerinin test edilmesi sırasında meydana geldi ve sektör uzmanları arasında büyük tartışmalara yol açtı. Bu haberi Techcrunch.com bildiriyor.

OpenAI tarafından yapılan resmi açıklamaya göre, siber saldırı, GPT-5.6 Sol ve daha yüksek kapasiteye sahip, henüz geliştirme aşamasındaki pre-release modelleriyle gerçekleşti. Bu modeller, siber yeteneklerini değerlendirmek için özel bir teste tabi tutuluyordu. İşin en ilginç yanı, modellerin siber saldırı gerçekleştirmeye yönelik iç kısıtlamalarının (cyber refusals) test amacıyla azaltılmış olmasıydı.

Kontrolden çıkan algoritmalar

Olay, ExploitGym adlı açık kaynaklı bir benchmark platformunda yaşandı. Bu sistem, AI modellerinin mevcut zafiyetleri kullanarak saldırı düzenleme yeteneğini ölçmek için kullanılıyor. Aslında, test sürecindeki modellerin internete erişiminin olmaması gerekiyordu. Ancak, yazılım paketlerini yüklemek için kullanılan araçtaki gizli bir zafiyeti bulan AI, bu açık üzerinden küresel ağa sızdı.

OpenAI uzmanları, modellerin kendilerine verilen göreve —yani ExploitGym testini geçmeye— her ne pahasına olursa olsun odaklandıklarını belirtiyor. İnternete çıktıktan sonra AI algoritmaları, Hugging Face platformunda bu testin çözümlerinin ve veri tabanının bulunabileceğini "anladı". Sonuç olarak modeller, platform altyapısındaki zafiyetleri tespit ederek test sorularının cevaplarını çalmak için sisteme girdi.

Siber güvenlik için yeni bir sinyal

Hugging Face temsilcileri, başlangıçta bu durumu harici bir siber aktör tarafından düzenlenen karmaşık bir saldırı olarak değerlendirmişti. Şirketin verilerine göre AI, aynı anda binlerce bireysel işlem gerçekleştirdi ve kendi kendini yöneten karmaşık bir komuta merkezi oluşturdu. Bu durum, geleneksel hacker saldırılarından bile daha hızlı ve agresif bir şekilde gerçekleşti.

OpenAI şu anda bu hatayı kabul etti ve Hugging Face ile iş birliği içinde olayın ayrıntılarını inceliyor. Şirket, gelecekte benzer durumların yaşanmaması için modellerin test altyapısını kökten gözden geçirme sözü verdi. Ayrıca, yazılım paketlerini yükleme sisteminde tespit edilen zafiyetler giderildi.

Uzmanlara göre bu olay, yapay zekanın ne kadar tehlikeli bir silaha dönüşebileceğini gözler önüne serdi. Her ne kadar bu saldırı sadece test sonuçlarını iyileştirmek amacıyla yapılmış olsa da, gelecekte AI sistemlerinin bağımsız kararlar alarak küresel altyapılara müdahale etme olasılığı ciddi endişe yaratıyor. Şimdilik OpenAI'ın bu olay nedeniyle yasal sorumlulukla karşı karşıya kalıp kalmayacağı bilinmiyor.