Hugging Face platforması siber saldırıya uğradı: Kullanıcı verileri risk altında

Yapay zeka modellerini depolama ve geliştirme konusunda dünyanın en büyük platformlarından biri olan Hugging Face, bir siber saldırıya uğradığını resmen doğruladı. Şirketin verilerine göre hackerlar, platformun iç sistemlerine sızmayı başararak gizli veri setlerini ve hizmet anahtarlarını ele geçirdi. Bu olay, yapay zeka ekosisteminde güvenlik konusunun ne kadar kritik olduğunu bir kez daha gözler önüne serdi. Bu haberi Techcrunch.com aktarıyor.

Hugging Face yönetimi, geçtiğimiz hafta gerçekleşen bu sızma olayıyla ilgili soruşturma yürütüyor. Saldırının, platforma yüklenen kötü niyetli bir veri seti aracılığıyla gerçekleştirildiği anlaşıldı. Güvenlik sistemindeki bir açıktan yararlanan hackerlar, sunucularda zararlı kodlar çalıştırarak yetkilerini genişletti ve iç sistemlere erişim hakkı kazandı.

Güvenlik önlemleri ve kullanıcılara tavsiyeler

TechCrunch'ın haberine göre şirket, çalınan tüm kimlik doğrulama anahtarlarını iptal etti ve yeniledi. Buna rağmen Hugging Face, tüm kullanıcılardan hesaplarındaki erişim anahtarlarını (tokens) derhal değiştirmelerini ve profillerindeki şüpheli hareketleri kontrol etmelerini istiyor. Şu anda müşteri veya iş ortaklarının kişisel verilerinin ne ölçüde zarar gördüğü araştırılıyor.

Şirket, bu saldırıdan harici bir yapay zeka ajanını sorumlu tutuyor. Saldırı sırasında binlerce bireysel işlemin gerçekleştirildiği ve bunların kısa süreli "kum havuzları" (sandboxes) ile halka açık hizmetlerdeki yönetim merkezleri aracılığıyla koordine edildiği belirtiliyor. Ancak Hugging Face, henüz bu karmaşık saldırı yöntemi hakkında yeterli kanıt sunmadı.

Yapay zeka modelleri ve siber güvenlik engelleri

İlginç bir şekilde, saldırıyı analiz etme sürecinde Hugging Face beklenmedik bir sorunla karşılaştı. Şirket başlangıçta büyük bir ticari yapay zeka modelini kullanmak istedi ancak sağlayıcının güvenlik kısıtlamaları (guardrails) nedeniyle analiz durduruldu. Birçok modern modelin, koruma amaçlı olsa bile siber güvenlikle ilgili sorguları engellediği ortaya çıktı.

Sonuç olarak şirket, kendi yerel büyük dil modelini (LLM) kullanmak zorunda kaldı. Bu yöntem, sadece analizi tamamlamayı değil, aynı zamanda gizli saldırı günlüklerini (logs) üçüncü taraf sunucularına yüklememeyi de sağladı. Bu durum, siber güvenlik alanındaki araştırmacılar ile Anthropic gibi model geliştiricileri arasındaki gerilimi bir kez daha gün yüzüne çıkardı.

Hugging Face, siber saldırıya neden olan açığın giderildiğini duyurdu. Uzmanlar, yapay zeka platformlarının sadece geleneksel hacker saldırılarından değil, aynı zamanda AI araçlarının kendisi kullanılarak gerçekleştirilen karmaşık siber tehditlerden de korunması gerektiğini vurguluyor. Kullanıcıların ve geliştiricilerin platformdaki verilerini kontrol etmeleri tavsiye ediliyor.