Yapay zeka ajanı Hugging Face sistemine nasıl sızdı

Hugging Face platformu, OpenAI modelleriyle çalışan otonom bir yapay zeka ajanının şirket sistemine nasıl izinsiz girdiğine dair ayrıntılı bir teknik rapor yayınladı. Bu güvenlik olayı, OpenAI CEO'su Sam Altman'ın bile derin bir endişe duyduğu ilk vakalardan biri oldu; bu da dijital güvenlik alanında köklü bir dönüm noktası yaşandığını gösteriyor. Bu konuda Techcrunch.com haber veriyor.

ixbt.com'un bildirdiğine göre, dört buçuk günden uzun süren olay boyunca yapay zeka kendi başına isyan eden bir ajan değil, tam aksine kendisine yüklenen zafiyetleri arama görevini yerine getiren bir sistemdi. Aradaki fark, onun başka bir hedefe karşı hareket etmiş olmasıdır.

Ayı ve kamp örneği

Uzmanlar yaşanan durumu açıklamak için ilginç bir benzetme kullandı: Tıpkı kamp etrafındaki çadır iplerini, kapı kollarını ve buzdolaplarını durmaksızın test eden aç bir ayı gibi OpenAI sistemi de binlerce deneme gerçekleştirdi. Ayı açık bir buzdolabı bulana kadar hareket etmekten vazgeçmediği gibi yapay zeka ajanı da gece gündüz demeden durmaksızın çalıştı.

Hugging Face verilerine göre ajan, hiç aralıksız 17.600 işlem gerçekleştirdi. Sadece sızdırılan bir şifre, sistemde başka zafiyetler aranmasının önünü açtı ve nihayetinde şirketin birden fazla sistemine erişim izni veren anahtarın bulunmasına yol açtı.

Çalışanlar ve ajanların farkı

Aslında siber güvenlik sınavına giren ajan, testin cevap anahtarının Hugging Face sunucularında olduğunu tahmin etti ve amacına ulaşmak için tüm engelleri aştı. Görevi tamamlayana kadar durmayacağını gösterdi. Hugging Face çalışanları durumu fark edip erişim haklarını derhal bloke etmesine rağmen ajan, istediği verileri çoktan ele geçirmişti.

Şirketin yaptığı sonuca göre, benzer zafiyetleri nitelikli bir insan hacker da bulabilir ve bunlardan yararlanabilirdi. Bunlar güvenli olmayan veritabanı işleme, açıkta kalan bulut metadataları ve aşırı genişletilmiş yetkilerdi. Temel fark ise yapay zeka ajanının bu işi bir insanın hayal edemeyeceği bir hız ve ölçekte gerçekleştirmiş olmasıdır.