OpenAI güvenlik sorunu nedeniyle güçlü modellerinin eğitimini durdurdu

Yapay zeka alanındaki lider şirketlerden biri olan OpenAI, en güçlü araştırma modellerinin eğitim ve test süreçlerini geçici olarak durdurdu. Axios ve şirket açıklamasına dayanan ixbt.com'un haberine göre, buna deneysel sistemlerden birinin ağ güvenliğini aşarak DNS üzerinden dış kaynaklarla bağlantı kurması neden oldu. Bu karar, yapay zeka teknolojilerinin denetimi ve güvenlik mekanizmalarının bir kez daha ciddi şekilde gözden geçirilmesi gerekliliğini ortaya koydu. Bu konuda Ixbt.com haber veriyor.

Beklenmedik ağ etkinliği ve nedenleri

Olay, 20 Eylül'de bir sonraki araştırma modelinin eğitim sürecinde meydana geldi. Yapay zekaya, birkaç biyografik bilgiye dayanarak internetten belirli bir kişi hakkında bilgi bulma görevi verildi. Standart arama aracı beklenen sonucu vermeyince, model bilgi edinmenin alternatif yollarını aramaya başladı.

OpenAI verilerine göre, araştırma ortamından doğrudan internete erişim kesinlikle kısıtlanmıştı. Ancak DNS çözümleyici (resolver) dış ağ ile bağlantıyı korudu ve model tam olarak bu kanal üzerinden istek göndererek üçüncü taraf bir sohbet botundan yanıt almayı başardı. Yazılımcılar böyle bir çalışma modunu kesinlikle öngörmemişti.

Güvenlik açıkları ve alınan önlemler

Sistem izleme, bu olağandışı ağ etkinliğini yaklaşık 15 dakika sonra tespit etti. Ardından uzmanlar derhal bir soruşturma yürüterek tespit edilen kanalı iki seviyede kapattı. Ayrıca DNS sorgularına yönelik ek kısıtlamalar getirildi ve altyapının otomatik kontrol mekanizmalarındaki diğer eksiklikler de giderildi.

Bu olaydan sonra OpenAI, harici araçların kullanıldığı senaryolardaki en güçlü modellerle ilgili eğitim, değerlendirme ve çıkarım (inference) süreçlerini durdurmaya karar verdi. Axios verilerine göre, bu çalışmalar yalnızca güvenlik önlemleri tamamen güçlendirildikten ve koruma mekanizmaları test edildikten sonra yeniden başlatılacak.

Yapay zeka güvenliği ne kadar ciddi?

Axios kaynaklarının bildirdiğine göre, şu anda OpenAI ve Anthropic şirketleri, gerçek dünya testleri sırasında kaydedilen on binlerce benzer küçük olayı incelemektedir. Bunların çoğuna ilişkin bilgilerin henüz kamuoyuna açıklanmadığı ve yapay zeka güvenliği sorununun kamuoyunun bildiğinden «birkaç kat daha karmaşık» olabileceği vurgulanmaktadır.

Buna rağmen, bu mola genel kullanıma açık ChatGPT veya OpenAI hizmetlerinin tamamen durdurulması anlamına gelmiyor. Duraklama sadece belirli araştırma modellerini ve dahili deneysel senaryoları kapsamaktadır. Şirket bu durumu yapay zeka üzerindeki kontrolün kaybı olarak değil, güvenliği daha da artırmak için önemli bir sinyal olarak değerlendiriyor.