ChatGPT xavfsizlik tizimidagi nuqson: Sunʼiy intellekt kutilmagan kontent yaratmoqda

2 daqiqa o'qish191
ChatGPT xavfsizlik tizimidagi nuqson: Sunʼiy intellekt kutilmagan kontent yaratmoqda
QisqachaAI yordamida tayyorlanganKo‘rsatish
  • Dunyoning eng mashhur chatbotlaridan biri boʻlgan ChatGPT xavfsizlik tizimida foydalanuvchi soʻrovlarini notoʻgʻri talqin qilib, qoʻrqinchli va axloqsiz kontent yaratishi mumkin boʻlgan jiddiy kamchiliklar aniqlandi.
  • Britaniyaning Mindgard startapi mutaxassislari DALL-E 3 tasvirlar generatorini sinovdan oʻtkazib, oddiy koʻrsatmalarni oʻzgartirish orqali tizimni chalgʻitish va zoʻravonlik hamda ochiq mazmundagi tasvirlarni olish mumkinligini isbotlashdi.

Sunʼiy intellekt texnologiyalari jadal rivojlanayotgan bir davrda, dunyodagi eng mashhur chatbot — ChatGPT xavfsizlik tizimida jiddiy kamchiliklar aniqlandi. BBC tadqiqotchilari va kiberxavfsizlik boʻyicha mutaxassislar tizimning soʻnggi versiyasi foydalanuvchi soʻrovlarini notoʻgʻri talqin qilib, oʻta qoʻrqinchli va axloqsiz tasvirlarni yaratishi mumkinligini isbotlashdi. Bu holat sunʼiy intellektning axloqiy chegaralari va kontent nazorati qanchalik mustahkam degan savollarni keltirib chiqarmoqda. Bu haqda Ixbt.com xabar beradi.

Britaniyaning Mindgard startapi mutaxassislari ChatGPT tizimidagi DALL-E 3 tasvirlar generatorini sinovdan oʻtkazishdi. Maʼlum boʻlishicha, oddiy va hazilomuz koʻringan koʻrsatmalarni (prompt) biroz oʻzgartirish orqali tizimni chalgʻitish mumkin. Natijada neyrotarmoq zoʻravonlik sahnalari va ochiq mazmundagi tasvirlarni taqdim etgan. Bu kabi holatlar OpenAI kompaniyasining foydalanish shartlariga mutlaqo zid boʻlsa-da, tizim filtrlari buni har doim ham toʻsib qola olmayapti.

Xavfsizlik choralari va tizimdagi boʻshliqlar

OpenAI vakillari mazkur muammo yuzasidan rasmiy bayonot berib, xavfsizlik choralarini kuchaytirganliklarini maʼlum qilishdi. Kompaniya xabariga koʻra, BBC murojaatidan soʻng bunday soʻrovlarga qarshi qoʻshimcha himoya qatlamlari joriy etilgan. "Biz ushbu tendentsiyani oʻrganib chiqdik va foydalanuvchilarning qoidabuzar kontent yaratishiga yoʻl qoʻymaydigan koʻp bosqichli himoyani faollashtirdik", — deyiladi kompaniya bayonotida.

Biroq, Mindgard asoschisi Piter Garraxanning taʼkidlashicha, xavfsizlik choralari kuchaytirilganidan keyin ham tizimni aylanib oʻtish imkoniyati saqlanib qolgan. Tadqiqotchilar koʻrsatmalarga yana bir necha kichik oʻzgartirishlar kiritish orqali xavotirli kontentni qayta olishga muvaffaq boʻlishdi. Bu esa sunʼiy intellekt algoritmlari hali ham inson tomonidan kiritilgan hiylalarga nisbatan zaif ekanligini koʻrsatadi.

Eng xavotirli jihati shundaki, ChatGPT baʼzi hollarda aniq buyruq berilmagan boʻlsa ham, oʻz "ixtiyori" bilan jiddiy va qoʻrqinchli tasvirlarni shakllantirgan. Garraxanning soʻzlariga koʻra, tizim yaratgan baʼzi suratlar hech qanday mavzu koʻrsatilmagan sharoitda ham oʻta dahshatli va seksual xarakterga ega boʻlib chiqqan. Mutaxassislar buni sunʼiy intellektning oʻquv maʼlumotlari orasidagi nazorat qilinmagan qatlamlar bilan bogʻlashmoqda.

Oʻzbekistonlik foydalanuvchilar uchun ogohlantirish

Hozirda Oʻzbekistonda ham ChatGPT va shunga oʻxshash sunʼiy intellekt vositalaridan taʼlim, ish va ijodiy maqsadlarda keng foydalanilmoqda. Mazkur tadqiqot natijalari foydalanuvchilarni, ayniqsa, voyaga yetmaganlarning ushbu texnologiyadan foydalanishini nazorat qilish zarurligini koʻrsatadi. Neyrotarmoqlar har doim ham kutilgan natijani bermasligi va baʼzan ruhiyatga salbiy taʼsir koʻrsatuvchi maʼlumotlarni chiqarishi mumkinligini unutmaslik lozim.

Mutaxassislar OpenAI kabi yirik korporatsiyalarni oʻz mahsulotlarini ommaga taqdim etishdan avval yanada qattiqroq sinovdan oʻtkazishga chaqirmoqda. Texnologik gigantlar qanchalik urinmasin, sunʼiy intellektni toʻliq "tartibga solish" murakkab vazifa boʻlib qolmoqda. Bu esa foydalanuvchilardan raqamli savodxonlik va ehtiyotkorlikni talab etadi.

Maqola sizga yoqdimi?

Obuna bilan reklama bo'lmaydi

Zamin Premium — oyiga 4 900 so'm

Izohlar0

…

  1. Futbol akademiyalari uchun Skaut: to‘lov, davomat va ota-ona bilan aloqa endi bitta tizimda
  2. Toshkentdan Amerikaga: Nurmuxammad Ismoilov Akinda orqali halol investitsiyani global miqyosga olib chiqmoqda
  3. Avtoservisingizni raqamlashtiring: Bip Business bilan mijozlarni yo‘qotmang
  4. Mashina oynasiga raqam yozish xavflimi? Bip haydovchilar uchun yangi yechim topdi!
  5. 8 ta keng tarqalgan moliyaviy xato: nimalardan saqlanish kerak?
  6. Playmatch: maydon egalari ishini ancha yengillashtiradi
  7. Playmatch: futbol o‘ynash uchun kerakli barcha xizmatlar bitta ilovada
  8. Kundalik xarajatlar uchun kartani qanday tanlash mumkin?
  9. Eldor Shomurodov futbol akademiyasi va TBC Bank: bolalik orzularidan katta futbolgacha
  10. ANORBANK Boʻstonliqdagi 168-son maktab-internat tarbiyalanuvchilarini tabrikladi
  11. Haydovchilar va tashuvchilar uchun OSGOP sug‘urtasining afzalliklari...
  12. Pure Milky’dan navbatdagi kreativ: Har qadam — aziz insonlarga mehr bilan!
  13. Kredit olish imkoniyatini oshirish uchun qayerda ishlash kerak?
  14. Biznes imkoniyatingizni kengaytiring
  15. Fanning rivojlanishiga barchamiz mas’ulmiz!
  16. XIV Toshkent xalqaro kinofestivali qanday o‘tkazilmoqda?