OpenAI güvenlik gerekçesiyle Astra modeli üzerindeki çalışmaları durdurdu

Yapay zekâ alanının önde gelen şirketlerinden biri olan OpenAI, yeni nesil Astra modeli üzerindeki çalışmaları geçici olarak durdurdu. Şirketin kamuoyuyla paylaştığı açıklamaya göre bu karar, yapay zekânın yeteneklerinin beklenmedik biçimde güvenlik sınırlarını aşması ve otonom siber saldırılar gerçekleştirme potansiyeli göstermesi nedeniyle alındı. Techcrunch.com bu gelişmeyi haber veriyor.

Geliştirme aşamasındaki Astra modeli şirketin iç denetiminden geçirildiğinde, ajan tabanlı kod yazma ve siber güvenlik alanlarında önemli ilerlemeler kaydettiği belirlendi. ixbt.com'un aktardığına göre model, geleneksel olarak iyi korunan gerçek dünya sistemlerini bağımsız biçimde tespit edip bunlara yönelik siber saldırılar gerçekleştirebilecek düzeye ulaştı.

Hazırlık ölçütleri ve güvenlik önlemleri

OpenAI'nin 2023'te uygulamaya koyduğu özel “Hazırlık Sistemi” (Preparedness Framework) kurallarına göre, bir yapay zekâ modelinin bu kadar yüksek performansa ulaşması ek koruma önlemleri alınmasını gerektiriyor. Uzmanlar modeli değerlendirmeye devam etse de yeteneklerinin kritik seviyeye ulaştığını inkâr edemiyor.

Şirket temsilcileri bloglarında yayımladıkları bilgide Astra'nın henüz kamuoyuna sunulmadığını ve yakın zamanda Hugging Face sisteminde yaşanan olayla bağlantılı olmadığını özellikle vurguladı. Buna rağmen son dönemde yapay zekâ laboratuvarlarında kontrolden çıkan modellerle ilgili vakaların artması, kamuoyunda ve yasa koyucularda endişe yaratıyor.

Şeffaflık ve gelecek planları

Yapay zekâ sektöründe, genellikle henüz hazır olmayan ürünlerdeki güvenlik sorunları ve riskler hakkında kamuoyuna açık bilgi paylaşılmıyor. Ancak OpenAI, güvenlik ve şeffaflık ilkelerine bağlı kalarak, yeteneklerdeki bu tür keskin değişimler hakkında toplumu bilgilendirmenin önemli olduğuna karar verdi.

OpenAI şu anda Astra projesi kapsamında güvenlik gerekliliklerini karşılamayan iç faaliyet türlerini geçici olarak durdurdu ve sıkı denetim mekanizmaları uygulamaya koyuyor. Şirket ayrıca modelin yeteneklerini tarafsız biçimde değerlendirmek için ilgili devlet kurumları ve özel yapay zekâ güvenliği kuruluşlarıyla yakın iş birliği yapıyor.