ChatGPT xavfsizlik tizimidagi nuqson: Sunʼiy intellekt kutilmagan kontent yaratmoqda

Sunʼiy intellekt texnologiyalari jadal rivojlanayotgan bir davrda, dunyodagi eng mashhur chatbot — ChatGPT xavfsizlik tizimida jiddiy kamchiliklar aniqlandi. BBC tadqiqotchilari va kiberxavfsizlik boʻyicha mutaxassislar tizimning soʻnggi versiyasi foydalanuvchi soʻrovlarini notoʻgʻri talqin qilib, oʻta qoʻrqinchli va axloqsiz tasvirlarni yaratishi mumkinligini isbotlashdi. Bu holat sunʼiy intellektning axloqiy chegaralari va kontent nazorati qanchalik mustahkam degan savollarni keltirib chiqarmoqda. Bu haqda Ixbt.com xabar beradi.

Britaniyaning Mindgard startapi mutaxassislari ChatGPT tizimidagi DALL-E 3 tasvirlar generatorini sinovdan oʻtkazishdi. Maʼlum boʻlishicha, oddiy va hazilomuz koʻringan koʻrsatmalarni (prompt) biroz oʻzgartirish orqali tizimni chalgʻitish mumkin. Natijada neyrotarmoq zoʻravonlik sahnalari va ochiq mazmundagi tasvirlarni taqdim etgan. Bu kabi holatlar OpenAI kompaniyasining foydalanish shartlariga mutlaqo zid boʻlsa-da, tizim filtrlari buni har doim ham toʻsib qola olmayapti.

Xavfsizlik choralari va tizimdagi boʻshliqlar

OpenAI vakillari mazkur muammo yuzasidan rasmiy bayonot berib, xavfsizlik choralarini kuchaytirganliklarini maʼlum qilishdi. Kompaniya xabariga koʻra, BBC murojaatidan soʻng bunday soʻrovlarga qarshi qoʻshimcha himoya qatlamlari joriy etilgan. "Biz ushbu tendentsiyani oʻrganib chiqdik va foydalanuvchilarning qoidabuzar kontent yaratishiga yoʻl qoʻymaydigan koʻp bosqichli himoyani faollashtirdik", — deyiladi kompaniya bayonotida.

Biroq, Mindgard asoschisi Piter Garraxanning taʼkidlashicha, xavfsizlik choralari kuchaytirilganidan keyin ham tizimni aylanib oʻtish imkoniyati saqlanib qolgan. Tadqiqotchilar koʻrsatmalarga yana bir necha kichik oʻzgartirishlar kiritish orqali xavotirli kontentni qayta olishga muvaffaq boʻlishdi. Bu esa sunʼiy intellekt algoritmlari hali ham inson tomonidan kiritilgan hiylalarga nisbatan zaif ekanligini koʻrsatadi.

Eng xavotirli jihati shundaki, ChatGPT baʼzi hollarda aniq buyruq berilmagan boʻlsa ham, oʻz "ixtiyori" bilan jiddiy va qoʻrqinchli tasvirlarni shakllantirgan. Garraxanning soʻzlariga koʻra, tizim yaratgan baʼzi suratlar hech qanday mavzu koʻrsatilmagan sharoitda ham oʻta dahshatli va seksual xarakterga ega boʻlib chiqqan. Mutaxassislar buni sunʼiy intellektning oʻquv maʼlumotlari orasidagi nazorat qilinmagan qatlamlar bilan bogʻlashmoqda.

Oʻzbekistonlik foydalanuvchilar uchun ogohlantirish

Hozirda Oʻzbekistonda ham ChatGPT va shunga oʻxshash sunʼiy intellekt vositalaridan taʼlim, ish va ijodiy maqsadlarda keng foydalanilmoqda. Mazkur tadqiqot natijalari foydalanuvchilarni, ayniqsa, voyaga yetmaganlarning ushbu texnologiyadan foydalanishini nazorat qilish zarurligini koʻrsatadi. Neyrotarmoqlar har doim ham kutilgan natijani bermasligi va baʼzan ruhiyatga salbiy taʼsir koʻrsatuvchi maʼlumotlarni chiqarishi mumkinligini unutmaslik lozim.

Mutaxassislar OpenAI kabi yirik korporatsiyalarni oʻz mahsulotlarini ommaga taqdim etishdan avval yanada qattiqroq sinovdan oʻtkazishga chaqirmoqda. Texnologik gigantlar qanchalik urinmasin, sunʼiy intellektni toʻliq "tartibga solish" murakkab vazifa boʻlib qolmoqda. Bu esa foydalanuvchilardan raqamli savodxonlik va ehtiyotkorlikni talab etadi.