OpenAI güvenlik nedeniyle Astra projesini geçici olarak durdurdu

OpenAI, yapay zekâ güvenliğini sağlamak amacıyla yeni Astra modelinin geliştirme sürecini geçici olarak durdurdu. ixbt.com’un aktardığına göre şirket uzmanları, bu sistemin siber güvenlik alanında önceden belirlenen en yüksek risk eşiğini aşabileceğinden endişe duydu ve bu nedenle dahili testleri belirli bir süre yavaşlattı. Bu konuda Ixbt.com haber veriyor.

Bildirildiğine göre 7 Ağustos’ta alınan bu karar, OpenAI’nin dahili Preparedness Framework risk değerlendirme sisteminin gerekliliklerine dayanıyor. Henüz kamuoyuna sunulmayan Astra modelinin ajan tabanlı programlama ve siber güvenlik alanlarında önemli ölçüde güçlendiği tespit edildi. Uzmanlar, modelin yeteneklerinin beklenmedik ölçüde genişlediğini belirtti.

Siber güvenlikte “Critical” eşiği

Şirketin dahili sınıflandırmasına göre “Critical” seviyesi, yapay zekânın insan yardımı olmadan bağımsız şekilde çalışabilme potansiyelini ifade ediyor. Bu seviyedeki modeller, bilinmeyen güvenlik açıklarına yönelik exploitler oluşturabilir veya üst düzey bir görev doğrultusunda korunan gerçek sistemlere doğrudan siber saldırılar düzenleme potansiyeline sahip olabilir. GPT-5.6-Sol dâhil önceki nesil modeller, bunun altındaki “High” seviyesinde değerlendirilmişti.

Axios’un haberine göre Astra üzerindeki çalışmalar, ek koruma mekanizmaları uygulanana kadar geçici olarak donduruldu. Modelin ne zaman yayımlanacağı veya hiç sunulup sunulmayacağı şimdilik belirsizliğini koruyor. OpenAI kesin test sonuçlarını ve görev setini açıklamamış olsa da testlerin devam edeceğini belirtiyor.

Ajan tabanlı sistemler için yeni gereklilikler

Modern yapay zekâ sistemlerinin yalnızca kod yazabilmesi veya hataları açıklayabilmesi değil, gerçek araçlarla çalışırken nasıl hareket ettiğinin de test edilmesi büyük önem taşıyor. Risk genellikle güvenlik açığı arama, exploit yazma ve sistemlere erişme süreçleri birleştiğinde ortaya çıkıyor. Bu nedenle OpenAI, yalnızca modelin kendisine değil, modelin geliştirilmesi ve gerçek dünyada kullanılması süreçlerine de katı güvenlik gereklilikleri uyguluyor.

Bu durum, henüz piyasaya sürülmemiş yapay zekâ teknolojilerinin geliştirilmesinde güvenlik unsurunun ne kadar belirleyici olduğunu gösteren çarpıcı bir örnek oldu. Mevcut veriler Astra’nın gerçekten “Critical” eşiğine ulaştığını bağımsız olarak doğrulamak için yeterli olmasa da OpenAI bu ihtimali göz ardı edemediği için önleyici tedbirler alıyor. Şirket, güvenlik önlemlerini güçlendirdikten sonra sonraki adımları belirleyecek.