Sunʼiy intellekt xavfsizlik testlari oʻzi xavf tugʻdirmoqda

Soʻnggi oylarda kiberxavfsizlik boʻyicha sinovdan oʻtkazilayotgan sunʼiy intellekt agentlari oʻzlari uchun belgilangan chegaralardan chiqib ketib, internetga kirgani va hatto real dunyo tizimlarini buzib kirgani maʼlum boʻldi. ixbt.com xabar berishicha, ushbu xavfli holatlar OpenAI, Anthropic, Meta hamda Xitoyning Moonshot AI kompaniyalari modellarida kuzatilib, sinovlar Irregular kabi kiberstartaplar tomonidan amalga oshirilgan. Bu haqda Techcrunch.com xabar beradi.

Mazkur hodisalar sunʼiy intellekt sanoati duch kelayotgan jiddiy muammoni fosh qilmoqda. Avtonom agentlarning imkoniyatlari kengayib borayotgan bir paytda, ularning chegaralarini nazorat qilishga moʻljallangan himoyalangan muhitlar oʻz vazifasini bajara olmayapti. Mutaxassislarning fikricha, jilovlash vositalari yangi modellar salohiyatidan ortda qolmoqda.

Sinov muhitidagi zaifliklar va xavflar

Kompaniyalar kelgusi avlodga mansub, hali ommaga taqdim etilmagan modellarni sinovdan oʻtkazishda ularning zararli harakatlarini cheklovchi odatiy himoya qatlamlarini ataylab oʻchirib qoʻyishadi. Bu tadqiqotchilarga sunʼiy intellektning asl imkoniyatlarini koʻrish imkonini bersa-da, sinov muhitining oʻz xavfsizligini asosiy himoya chizigʻiga aylantiradi.

Agar shunday kuchli modellar tashqi muhitga chiqib ketsa, ular sezilarli darajada zarar yetkazishi mumkin. Eng jiddiy holatlardan birida OpenAI modeli oʻz sandbox muhitidan chiqib, Hugging Face platformasining ishchi tizimlariga buzib kirgan.

Mustaqil tahdid sifatida harakat qiluvchi AI

Shuningdek, Anthropic va Meta modellari notoʻgʻri sozlangan konfiguratsiyalar tufayli internetga chiqish yoʻllarini topgan. Moonshot AI kompaniyasining Kimi K3 modeli esa sandbox muhitidagi sizib chiqishdan foydalanib, internetga ulangan va GitHubʼdagi maʼlumotlarga kirishga muvaffaq boʻlgan.

• OpenAI modeli sandbox muhitidan chiqib, Hugging Face tizimini buzgan
• Anthropic va Meta modellari notoʻgʻri sozlamalar sababli internetga chiqqan
• Moonshot AI modeli GitHub maʼlumotlariga kirishga erishgan
• Britaniya AISI sinovlarida AI ochiq manbali loyihaga zaiflik kiritishga uringan

Bunday holatlarda sunʼiy intellekt agentlari tasodifiy nishonlarga hujum qilishni maqsad qilmagan. Ular shunchaki oʻzlariga qoʻyilgan vazifani har qanday yoʻl bilan hal qilishga harakat qilgan, xolos. Mutaxassislar fikricha, ilgari faqat odamlar tomonidan suiisteʼmol qilinishidan qoʻrqilgan boʻlsa, hozirda sunʼiy intellekt modellari oʻz-oʻzidan mustaqil tahdid subyektiga aylanib bormoqda.