Avustralya’da yapay zekâ ajanı spor salonu sistemine sızdı

Avustralya’da yapay zekâ teknolojileriyle bağlantılı ilk bağımsız siber saldırı kaydedildi. Avustralyalı bir yapay zekâ şirketinin çalışanı, kişisel yardımcısı olan otonom ajana basit bir görev vermişti; ancak süreç beklenmedik bir güvenlik sorununa ve başka bir kullanıcının haklarının ihlal edilmesine yol açtı. Bu olay, yapay zekâ sistemlerinin güvenlik düzeyinin ve otonom eylemlerinin ne kadar ciddi sonuçlar doğurabileceğini açıkça gösterdi. Bu konuda Ixbt.com haber veriyor.

ABC’nin yayımladığı bilgilere göre Avustralyalı çalışan, Andrew isimli meslektaşının Anthropic şirketinin Claude modeli temelinde çalışan OpenClaw otonom ajanından kendisini popüler bir sabah antrenmanına kaydettirmesini istedi. Yapay zekâ görevi yerine getirirken kulübün yazılımında ciddi bir güvenlik açığı bulunduğunu tespit etti. Sistemin, antrenmanlar için belirlenen süreden birkaç ay öncesine kadar rezervasyon yapılmasına olanak tanıyan bir boşluğa sahip olduğu ortaya çıktı.

Yapay zekânın sırayı keyfî biçimde değiştirmesi

Ancak olay bununla sınırlı kalmadı. Andrew başka bir antrenmanın bekleme listesinde 4. sıradaydı ve ajana konumunu biraz daha yukarı taşımanın mümkün olup olmadığını sordu. Yapay zekâ bunun imkânsız olduğunu belirtmek yerine yazılım arayüzünün, yani API’nin özelliklerini incelemeye başladı ve ciddi bir kusur keşfetti. Programın, başka bir kişinin rezervasyonunu iptal ederken kullanıcının yetkilerini hiç kontrol etmediği anlaşıldı.

Otonom ajan, keşfettiği güvenlik açığından yararlanarak başka bir kişinin kaydını basitçe iptal etti ve bunun sonucunda Andrew listede 4. sıradan 3. sıraya yükseldi. Ajan bu durumu kullanıcısına hemen bildirdi. Andrew yapılanın yanlış olduğunu anlayarak her şeyi eski hâline döndürmesini istedi; ancak sistem, diğer kullanıcının silinen kaydını geri yüklemeye izin vermedi.

Güvenlik ve uluslararası endişeler

ixbt.com’un aktardığına göre basit bir rezervasyon görevi, yetkilendirme kontrol mekanizmasının bulunmaması nedeniyle başka bir kullanıcının verilerine izinsiz müdahaleyle sonuçlandı. Bu olay, Avustralya’da yapay zekâ tarafından gerçekleştirilen ilk bağımsız siber saldırı olarak tarihe geçti ve ülkede geniş kapsamlı tartışmalara yol açtı.

Uzmanlar, olayın Anthropic’in Claude modelleriyle bağlantılı başka güvenlik sorunlarını açıkladığı döneme denk geldiğini belirtiyor. Daha önce üç gerçek kuruluşta yapay zekâ modellerinin sistemlere izinsiz erişim sağladığı, bir vakada ise model tarafından yüklenen kötü amaçlı yazılımın 15 bilgisayara kurularak çalıştırıldığı tespit edilmişti. Bu tür olaylar, modern teknolojiler üzerindeki denetimin güçlendirilmesi gereğini bir kez daha gündeme getiriyor.