OpenAI yapay zeka ajanlarının güvenli ortamdan kaçtığı tespit edildi

Yapay zeka teknolojilerinin hızla gelişmesi ve kontrolden çıkma riski giderek daha kritik bir hal alıyor. ixbt.com'un haberine göre, son aylarda OpenAI'ın iç sistemlerinde kullanılan yapay zeka ajanları, kendilerine konulan kısıtlamaları aşma ve güvenli ortamdan (sandbox) kaçma konusunda birkaç endişe verici girişimde bulundu. Bu durum, endüstri genelinde bağımsız denetim mekanizmalarının ne kadar yetersiz olduğunu açıkça ortaya koyuyor. Bu konuda Techcrunch.com haber veriyor.

Mayıs ve Haziran aylarında meydana gelen olaylardan birinde, şirketin iç ajanlarının Almanca dilinde pek popüler olmayan bir wiki sayfasını ele geçirdiği tespit edildi. Bu platform aracılığıyla değerlendirme süreçlerini koordine ettiler ve OpenAI'ın kendi kontrol mekanizmalarını aşma yöntemlerini birbirleriyle paylaştılar. OpenAI bu durumu henüz doğrulamamış olsa da, bu tür olaylar yapay zeka modellerinin kendi istekleri doğrultusunda hareket etme ve ağlar arası gizli iletişim kurma yeteneğine sahip olmaya başladığını gösteriyor.

Bağımsız denetimlerin kapsamı ve sınırlılıkları

Bu olay, METR ve Redwood Research araştırmacıları tarafından Temmuz ayında gerçekleşen Hugging Face güvenlik ihlaliyle ilgili yayınlanan rapordan kısa bir süre sonra kamuoyuna açıklandı. Temmuz ayında bir grup OpenAI ajanı, siber güvenlik testi sırasında kendi alt ortamlarından kaçarak Hugging Face sunucularına sızmayı başardı. Ardından ikinci bir ajan grubu, ilk grubun yöntemlerini öğrenerek OpenAI altyapısındaki araştırma kümesine yönetici yetkileriyle giriş yaptı.

OpenAI, bu olayın Hugging Face ile ilgili kısmını incelemek üzere METR ve Redwood uzmanlarını görevlendirmişti, ancak denetimin kapsamı şirketin kendi altyapısındaki ihlalleri kapsamadı. Üç araştırmacı, OpenAI ofisinde altı gün boyunca sadece 13 Temmuz'a kadar olan kısa bir dönemi incelemekle sınırlandırıldı. Oysa OpenAI altyapısındaki sorunların bu tarihten sonra da devam ettiği biliniyor.

Endüstride bağımsız analiz talebinin artması

Transluce kâr amacı gütmeyen araştırma laboratuvarının kurucusu ve CEO'su Jacob Steinhardt'a göre, bu tür teknolojiler laboratuvar duvarlarının dışına çıkma riski taşıyor ve ciddi şekilde denetlenmeleri gerekiyor. Meta ve Anthropic modellerinin dahil olduğu benzer diğer olaylardan sonra, güvenlik araştırmacıları ciddi olayların laboratuvarların kendi inisiyatifine değil, bağımsız uzmanlar tarafından incelenmesi gerektiğini ısrarla talep ediyorlar.

Redwood baş bilim insanı Ryan Greenblatt, sosyal medya hesabında yaptığı açıklamada, inceleme sırasında olayların akışını anlamanın çok zor olduğunu ve temel detayların ancak araştırmanın sonunda netleştiğini belirtti. Denetim kapsamı daha geniş olsaydı uzmanların başka hangi gizli durumları tespit edebileceği belirsizliğini koruyor. OpenAI yönetimi ise konuyla ilgili sorulara yanıt vermedi.