Arcee: Çin'in açık yapay zeka modelleri güvenlik tehdidi oluşturmuyor

ABD merkezli Arcee laboratuvarı uzmanları, Çin'de geliştirilen açık kaynaklı (open-source) yapay zeka modellerinin güvenliğine ilişkin endişelerin yersiz olduğunu düşünüyor. Son dönemde Çinli Moonshot AI ve Alibaba gibi şirketler tarafından sunulan modeller, verimlilikleri ve düşük maliyetleriyle dünya pazarında popülerlik kazanıyor; bu durum Batılı teknoloji devleri arasında çeşitli tartışmalara yol açtı. Bu konuda Techcrunch.com haber veriyor.

Şu anda ABD yönetimi Çinli geliştiricilerin ürünlerini yasaklama konusunu değerlendirirken, OpenAI ve Anthropic gibi kapalı model oluşturucuları rekabetten endişe duyuyor. Özellikle Kimi K3 ve Qwen gibi modeller, veri işleme konusunda çok daha uygun maliyetli hizmet sunmalarıyla öne çıkıyor. Bu durum, büyük şirketlerin kâr marjlarını önemli ölçüde etkileyebilir.

Arcee CTO'su Lucas Atkins'e göre, Çin'in açık ağırlıklı (open-weight) modelleri, diğer açık kaynaklı yazılımlardan daha tehlikeli değil. Atkins, bu modelleri kullanan işletmelerin Çinli hacker saldırılarından korkmasına gerek olmadığını, çünkü sinir ağlarının çalışma prensibinin geleneksel yazılımlardan farklı olduğunu vurguluyor.

Teknik güvenlik ve kontrol imkanları

Birçok kişi bu modelleri kötü niyetle yazılmış kod olarak algılıyor, ancak yapay zeka eğitim süreci tamamen farklı işliyor. Arcee uzmanları, bir şirket modeli indirip kendi özel sunucularında (veri merkezlerinde) çalıştırırsa, modeli oluşturan tarafın (örneğin Alibaba) bu ortama erişme veya veri çalma imkanına sahip olmayacağını açıklıyor.

Hugging Face gibi platformlarda barındırılan açık ağırlıklı modellerin çalışma kodu şeffaftır ve denetlenebilir. Modellerin eğitiminde kullanılan yöntemler ve veri setleri gizli tutulsa da, sunucuda çalışan kısım uzmanlar tarafından tamamen kontrol edilebilir. Bu da güvenlik önlemlerinin bağımsız olarak uygulanmasına olanak tanır.

Büyük kuruluşlar, herhangi bir modeli uygulamaya almadan önce güvenlik testlerinden geçirmeli, önyargı (bias) ve yanlış bilgi verme (hallucinations) gibi yönlerini kontrol etmelidir. Ayrıca, modelleri kendi ihtiyaçlarına göre uyarlamak için ek eğitim (post-training) yoluyla güvenilirliklerini daha da artırmak mümkündür.

İlginç olan şu ki, Arcee şirketi aslında Çin modellerine alternatif olarak ABD'nin yerel ürünlerini sunuyor. Buna rağmen rakiplerini asılsız suçlamaktan kaçınarak teknolojik açıklıktan yana olduklarını gösteriyorlar. Bu tür bir yaklaşım, küresel yapay zeka pazarında sağlıklı rekabeti ve inovasyonu teşvik etmeye hizmet ediyor.