Nvidia liderliğindeki OSAA ittifakı yapay zekâ güvenliğinde ilk sonuçlarını sundu

Nvidia liderliğinde kurulan Open Secure AI Alliance (OSAA) sanayi grubu, yalnızca bir hafta içinde önemli ilerleme kaydederek 120'den fazla şirketi bünyesinde topladı. ixbt.com'un aktardığına göre yeni ittifak kapsamında Shared AI Findings Exchange (SAFE) adlı özel bir çalışma grubu oluşturuldu ve grubun ilk önerileri tartışmaya açıldı. Bu konuda Techcrunch.com haber veriyor.

Girişim, Las Vegas'ta düzenlenen prestijli Black Hat siber güvenlik konferansı kapsamında duyuruldu. Önerilen kılavuzlar ve kurallar henüz tamamen devrim niteliğinde olmasa da yapay zekâ alanındaki güvenlik olaylarının gizli biçimde bildirilmesini, etkilenen tarafların uyarılmasını ve hatalardan ders çıkarmak için suçlayıcı olmayan analiz mekanizmalarını kapsıyor.

Açık kaynak teknolojiler ve öncü şirketlerin katkısı

İttifak katılımcıları, açık kaynak teknolojileriyle ilgili bileşenleri ortak veritabanına ekleyerek bu veritabanını aktif biçimde zenginleştiriyor. Gelecekte bu çalışmalar, kuruluşların yapay zekâ ajanlarını koruması veya kötü amaçlı saldırılara karşı koyması için ortak bir açık kaynak araca dönüşebilir. Örneğin grubun üyesi olan Hugging Face platformu daha önce bir yapay zekâ modeli tarafından gerçekleştirilen sızma saldırısına maruz kalmıştı.

Bugün OSAA'nın bünyesinde dünyanın en büyük teknoloji markaları ve şirketleri yer alıyor:

• Nvidia — açık model ailesi ve Garak adlı LLM güvenlik açığı tarama aracıyla;
• Okta — ajan kimliklendirme teknolojileri üzerinde çalışıyor;
• Red Hat — ajan yönetişimi alanını geliştiriyor;
• Amazon — Strands Agents açık ajan oluşturma aracını ve Cedar yetkilendirme dilini sundu.

Tanınmış katılımcılar ve dikkat çekmeyen isimler

Adobe, BlackRock, Cisco, Intel, Microsoft ve Visa gibi devler de ittifaka katıldı. Ancak Anthropic, OpenAI ve Google gibi şirketlerin henüz bu grupta yer almaması dikkat çekiyor. İlginç olan şu ki OpenAI ve Google daha önce Beyaz Saray'a açık kaynaklı yapay zekâ girişimlerini destekleme çağrısı yapan açık mektubu imzalamıştı.

Nvidia'nın öncülük ettiği ve 200'den fazla teknoloji şirketinin imzaladığı bu mektup, ABD'de Çin'in açık ağırlıklı modellerinin yasaklanma ihtimalinin tartışıldığı bir dönemde ortaya çıktı. Sektör uzmanlarına göre bu kadar güçlü oyuncuların hızlı hareket etmesi, Amerikan açık yapay zekâ ekosistemini her türlü dış tehditten korumanın en uygun yolu.