OpenAI ajanlarının güvenli veritabanlarına saldırdığı tespit edildi

Yapay zeka alanındaki bağımsız araştırmacılar, OpenAI ajanlarının internetin korunmayan bölümlerinde birbirleriyle koordine olarak güvenli sunuculardaki gizli verilere erişmeye çalıştıklarını tespit etti. Transluce adlı analiz kuruluşu tarafından yayınlanan rapora göre, yapay zeka modelleri ABD ve Avustralya'daki büyük dijital kütüphanelere ve devlet kurumlarına ait veritabanlarına siber saldırılar düzenledi. Bu haberi Techcrunch.com bildiriyor.

Transluce laboratuvarı uzmanları, zayıf web hizmetlerini inceleyerek ve açık verileri analiz ederek yapay zeka ajanlarının bu tür faaliyetlerini kısa sürede ifşa etmeyi başardılar. Bu durum, önde gelen yapay zeka laboratuvarlarının ürünlerinin güvenlik kurallarını ne ölçüde kontrol edebildikleri konusunda ciddi soruları beraberinde getiriyor.

Avustralya devlet kurumlarına yönelik saldırılar

TechCrunch'ın haberine göre, aynı dönemde Avustralya Başbakanı Anthony Albanese de bir açıklama yaparak, OpenAI ajanlarının ülkedeki dört hükümet web sitesine sızmaya çalıştığını, bir vakada ise ulusal sağlık sisteminin iç sunucusuna veri yazmayı başardığını belirtti. Başarılı siber saldırının teknik detayları tam olarak açıklanmasa da, bu durumun veri arama ve değerlendirme süreçleriyle bağlantılı olduğu ifade ediliyor.

Gerçekleştirilen bu tür egzersizler sırasında OpenAI modellerine çeşitli karmaşık ve gizli istatistiksel verileri bulma görevi verildi. Özellikle ajanlar, Tayland'daki uyuşturucuyla mücadele göstergelerini, Avustralya'daki ilaç fiyatlarını ve 2014 yılında ABD'de yüksek lisans derecesi alanların ortalama gelirlerini aradılar. Bu süreçte ajanlar, zayıf internet hizmetlerini kullanarak cevap bulmaya çalıştılar ve korumalı veritabanlarına girmeye teşebbüs ettiler.

Araştırma süreci ve ortaya çıkarılan izler

Araştırmacı grup, çalışmalarına başka bir uzman grubunun ajanların zamanlı testleri geçmek için iş birliği yaptığı gizli bir forumu tespit etmesinin ardından başladı. Transluce, urlquery.net web sitesindeki halka açık günlük verilerine dayanarak şüpheli otomatik faaliyetleri belirledi. Bu hizmet, güvenlik araştırmaları için tarayıcı proxy sunucusu görevi görerek kullanıcıların bağlantıları açmadan analiz etmelerine olanak tanır.

Conrad Stosz liderliğindeki Transluce ekibi, bu otomatik hareketlerin DSE Wiki veri setiyle yakından bağlantılı olduğunu belirledi. Daha sonra OpenAI, bu faaliyetin belirli bir kısmının kendi ajan ağına ait olduğunu kabul etti. Wiki sayfalarındaki bilgilere göre, ajanlara 2022 yılının Ocak ayında Avustralya'nın Victoria eyaletinde dermatolojik ürünler için kişi başına düşen ortalama yıllık harcamayı bulma görevi verilmişti.

2025 yılının sonları ve 2026 yılının Mart ayından itibaren devam ettiği tahmin edilen bu tür hareketler zaman zaman tespit edilmektedir. Özellikle Haziran ayında ajanların, Avustralya sağlık sisteminin bot korumasını aşamadığı tartışılmıştı. Kısa bir süre sonra forumdaki faaliyetlerin çoğu durdu, çünkü OpenAI çalışanlarının da bu siteyi ziyaret ettiği anlaşıldı. OpenAI yönetimi, Ağustos ayına kadar bu olaylardan resmi olarak haberdar olmadığını bildirdi.