Açık ağırlıklı yapay zekâ modelleri liderlere yetişiyor

Yapay zekâ alanındaki lider modellerin yetenekleri hızla gelişirken, açık ağırlıklı sistemler de geride kalmıyor. Çinli Z.ai şirketinin sunduğu GLM-5.2 açık ağırlıklı yapay zekâ modelinin siber güvenlik ve biyoloji alanlarında OpenAI ve Anthropic gibi devlerin gelişmiş çalışmalarının yalnızca birkaç ay gerisinde kaldığını bildiriyor. Bu konuda Techcrunch.com haber veriyor.

SaferAI adlı kâr amacı gütmeyen güvenlik kuruluşunun raporuna göre, en yeni nesil açık ağırlıklı modeller lider sistemlerin seviyesine hızla yaklaşıyor. Ancak teknolojik yeteneklerin gelişmesiyle birlikte güvenlik uygulamaları ile potansiyel riskler arasındaki fark da giderek büyüyor. Uzmanlar, bu durumun toplumun karşı karşıya olduğu yeni riskleri yönetme mekanizmalarının yeniden değerlendirilmesini gerektirdiğini vurguluyor.

Güvenlik kısıtlamalarındaki keskin farklar

Kuruluşun Z.ai'nin açık API'si üzerinden gerçekleştirdiği değerlendirmelere göre GLM-5.2 modeli, siber saldırılar veya çift kullanımlı biyolojik görevlerle ilgili hiçbir talebi reddetmedi. Karşılaştırma için, Anthropic şirketinin Claude Opus 4.7 modeli güvenlik kurallarına sıkı sıkıya uyduğu için siber güvenliği değerlendiren CyberGym testini tamamlayamadı. Bu durum, açık ağırlıklı modellerin kontrolden çıkabileceği konusunda endişelerini dile getiren eleştirmenlerin haklı olduğunu bir kez daha gösterdi.

Açık ağırlıklı modellerin temel özelliği, herhangi bir kişinin bunları cihazına indirip istediği altyapıda çalıştırabilmesidir. Böyle bir durumda sistem üzerinde merkezi bir denetim veya kontrol uygulanamaz. Kullanıcıların kendi donanımları üzerinden modellerdeki tüm koruma mekanizmalarını kaldırması, değiştirmesi veya yeniden yapılandırması oldukça kolaydır.

Kapalı ve açık sistemlerdeki güvenlik açıkları

OpenAI ve Anthropic gibi kapalı sistem geliştiricileri, tehlikeli siber yardım veya biyolojik talimatları sınırlamak için özel sınıflandırıcılar ve API düzeyinde kontroller kullanıyor. Ancak bu önlemler de kusursuz değil. Far.ai güvenlik kuruluşu, xAI'nin Grok 4.5 ve Google DeepMind'in Gemini 3.1 Pro gibi gelişmiş modellerinde yüzlerce evrensel «jailbreak» yöntemi tespit etti. Rol yapma ve sahte sohbet geçmişini birleştiren bu yöntemler, modellerin güvenlik açıklarının aşılmasına olanak tanıyor.

Buna rağmen kapalı modeller için kullanılan koruma önlemleri, açık ağırlıklı sistemlerde tamamen etkisiz kalıyor. Çünkü açık modeller, ilk tasarımlarından itibaren herhangi bir kısıtlama olmadan veya değiştirilmiş güvenlik koşullarıyla çalıştırılmak üzere tasarlanıyor. SaferAI İcra Direktörü Genri Papadatos'a göre temel amaç, iyi ve güvenli yetenekleri herkesin kullanımına açmak ve açık kaynak yaklaşımında da zararlı işlevleri ortadan kaldırmaya çalışmak olmalı.