Nvidia boshchiligidagi OSAA alyansi sunʼiy intellekt xavfsizligi boʻyicha ilk natijalarni taqdim etdi

Nvidia kompaniyasi yetakchiligida tashkil etilgan Open Secure AI Alliance (OSAA) sanoat guruhi atigi bir hafta ichida sezilarli yutuqlarga erishdi va 120 dan ortiq kompaniyani oʻz atrofida birlashtirdi. ixbt.com maʼlumotiga koʻra, yangi alyans doirasida Shared AI Findings Exchange (SAFE) deb nomlangan maxsus ishchi guruh tuzilib, uning ilk takliflari muhokamaga qoʻyildi. Bu haqda Techcrunch.com xabar beradi.

Mazkur tashabbus Las-Vegas shahrida boʻlib oʻtayotgan nufuzli Black Hat kiberxavfsizlik konferensiyasi doirasida eʼlon qilindi. Hozircha taklif etilayotgan qoʻllanmalar va qoidalar mutlaqo inqilobiy boʻlmasa-da, ular sunʼiy intellekt sohasidagi xavfsizlik hodisalari haqida maxfiy ravishda xabar berish, jabrlanganlarni ogohlantirish hamda xatolardan saboq olish uchun aybsiz tahlil qilish mexanizmlarini qamrab oladi.

Ochiq kodli texnologiyalar va yetakchi kompaniyalar hissasi

Alyans qatnashchilari oʻzlarining ochiq kodli texnologiyalariga tegishli qismlarni umumiy bazaga kiritib, uni faol ravishda boyitib bormoqda. Kelgusida bu saʼy-harakatlar korxonalarga oʻz sunʼiy intellekt agentlarini himoya qilish yoki zararli hujumlarga qarshi turish uchun yagona ochiq manbali vositaga aylanishi mumkin. Masalan, ushbu guruhga aʼzo boʻlgan Hugging Face platformasi oʻz vaqtida sunʼiy intellekt modeli tomonidan infiltratsiyaga uchragan edi.

Bugungi kunda OSAA tarkibiga dunyoning eng yirik texnologiya brendlari va kompaniyalari kirgan:

• Nvidia — ochiq modellar oilasi va Garak deb nomlangan LLM zafliklarini skanerlash vositasi bilan;
• Okta — agentlar identifikatsiyasi texnologiyalari ustida ishlamoqda;
• Red Hat — agentlar boshqaruvi (governance) yoʻnalishini rivojlantirmoqda;
• Amazon — Strands Agents ochiq agent yaratish vositasi hamda Cedar avtorizatsiya tilini taqdim etdi.

Taniqli ishtirokchilar va eʼtiborga molok boʻlmagan nomlar

Shuningdek, Adobe, BlackRock, Cisco, Intel, Microsoft va Visa kabi gigantlar ham alyans safiga qoʻshilgan. Biroq Anthropic, OpenAI va Google kabi kompaniyalarning hozircha bu guruhda yoʻqligi eʼtiborni tortadi. Qizigʻi shundaki, OpenAI va Google avvalroq Oq uyga ochiq manbali sunʼiy intellekt harakatlarini qoʻllab-quvvatlashni soʻrab murojaat qilingan ochiq xatni imzolagan edi.

Nvidia tomonidan ilgari surilgan va 200 dan ortiq texnologiya kompaniyasi imzolagan mazkur xat AQShda Xitoyning ochiq vaznli modellarini taqiqlash ehtimoli muhokama qilinayotgan bir paytda yuzaga kelgandi. Sanoat mutaxassislarining fikricha, bunday ogʻir vaznli oʻyinchilarning tezkor harakatlari Amerika ochiq sunʼiy intellekt ekotizimini har qanday tashqi tahdidlardan himoya qilishning eng maqbul yoʻlidir.