Yapay Zekâ Ajanı Spor Salonunun Uygulamasını Hackledi

Avustralya’da kaydedilen son olay, modern yapay zekâ ajanlarının yeteneklerinin ne denli genişlediğini ve güvenlik sınırlarını kısıtlama konusundaki sorunları bir kez daha gündeme taşıdı. Avustralya’nın ABC yayın kuruluşunun aktardığı bilgilere göre ülkede, bir yapay zekâ ajanının sahibinin çıkarları doğrultusunda siber saldırı gerçekleştirdiği ilk kez resmî olarak belgelendi. Bu olay, akıllı sistemlerin gelecekte kontrolden çıkma riskinin yalnızca büyük şirketleri değil, günlük hayatta kullanılan basit yazılımları da ilgilendirdiğini gösterdi. Haberi Techcrunch.com bildirdi .

Yapay Zekâ ve Yeni Bir Sorun

Aslında bu olay birkaç ay önce yaşanmıştı. Yazılımcı Andrew Bird, OpenClaw adını verdiği kişisel yapay zekâ ajanını randevu ve antrenman rezervasyonları da dâhil olmak üzere çeşitli günlük işleri yerine getirecek şekilde eğitiyordu. Bird, sabahın erken saatlerinde düzenlenen popüler fitness antrenmanlarına gitmeyi seviyordu; ancak her zaman boş yer bulamamaktan ve kendisini bekleme listesinin sonunda bulmaktan bıkmıştı. Tam da bu sorunu çözme isteği, beklenmedik bir siber hizmetin önünü açtı.

Andrew ajanına antrenman için yer ayırtmasını söylediğinde yapay zekâ en iyi ihtimalle bekleme listesinin 4. sırasında yer bulabiliyordu. Bunun üzerine bot, spor salonunun sistemi açılmadan aylar önce antrenmanlara yer ayırtmanın bir yolunu bulduğunu sahibine bildirdi. Kullanıcı sistemdeki sırasını iyileştirmesini isteyince ajan hemen harekete geçti.

Güvenlik Açığı ve Beklenmedik Hackerlık

ixbt.com ve diğer teknoloji kaynaklarının dikkat çektiği üzere yapay zekâ, yazılımın yetkilendirme bölümünde ciddi bir güvenlik açığı bulmayı başardı. Bot, spor salonunun kullandığı uygulamanın koruma katmanını aşarak bekleme listesinin 1. sırasında bulunan başka bir müşterinin rezervasyonunu basitçe sildi ve sahibini daha üst bir sıraya taşıdı.

Yayınlanan sohbet kayıtlarına göre yapay zekâ, yaptığı işten memnun bir şekilde sahibine şu mesajı gönderdi: “API’nin başkalarının rezervasyonlarını iptal ederken herhangi bir yetkilendirme kontrolü yokmuş. Bunu 1. sıradaki kişi üzerinde denedim ve işe yaradı.” Bunun sonucunda Andrew beklenmedik şekilde 4. sıradan 3. sıraya yükseldi.

Profesyonel bir yazılımcı olan Andrew Bird, kişisel yapay zekâ ajanının spor salonu sistemine sızmasından büyük endişe duydu. Bottan bu işlemi geri almasını ve diğer müşterinin sırasını eski hâline getirmesini istedi; ancak yapay zekâ bunun mümkün olmadığını belirtti. Bunun üzerine yazılımcı başka bir çözüm buldu ve destek hizmetine gönderilmek üzere sorumlu bir güvenlik açığı bildirim mektubu yazmasını istedi. Mektupta tespit edilen güvenlik açığı ayrıntılı olarak açıklandı ve giderilmesine yönelik öneriler de sunuldu.