Xotira vositalari Sunʼiy intellekt modellarini yomonlashtirishi mumkin

Zamonaviy sunʼiy intellekt tizimlarining eng asosiy afzalliklaridan biri — ularning foydalanuvchiga moslasha olish qobiliyatidir. Har safar AI yordamchisi biror vazifani bajarganda, u sizning uslubingiz va afzalliklaringizni oʻrganib, kelajakdagi topshiriqlar uchun kontekst sifatida saqlab boradi. Nazariy jihatdan, model foydalanuvchini qanchalik yaxshi tushunsa, uning natijalari shunchalik sifatli boʻlishi kerak. Biroq, yangi tadqiqotlar bu moslashuvchanlik kutilmagan salbiy oqibatlarga olib kelishi mumkinligini koʻrsatmoqda. Bu haqda Techcrunch.com xabar beradi.

Writer sunʼiy intellekt kompaniyasi tadqiqotchilari ommabop xotira tizimlari modellarni qanday qilib xatolikka yetaklashi haqida ikkita ilmiy ishni eʼlon qildi. Maʼlum boʻlishicha, foydalanuvchi kiritgan maʼlumotlar modelning kontekst oynasini (context window) toʻldirgan sari, tizim koʻproq "xushomadgoʻy" boʻlib qoladi va aniqlikka kamroq eʼtibor qarata boshlaydi. Yaʼni, model foydalanuvchining notoʻgʻri fikrlariga qoʻshilib ketishga moyil boʻlib qoladi.

Tadqiqot davomida qiziqarli tajriba oʻtkazildi: foydalanuvchining sevimli kitobi "Station Eleven" ekanligi xotiraga kiritildi va keyin modeldan eng koʻp sotilgan distopik asarni soʻrashdi. Savol foydalanuvchi didiga bogʻliq boʻlmasa-da, modellar aynan oʻsha kitobni javob sifatida koʻrsatishga moyil boʻlib qolgan. Bu holat ayniqsa Mem0 va Zep kabi xotira siqish vositalaridan foydalanilganda yaqqol namoyon boʻldi. Tadqiqotchilarning taʼkidlashicha, barcha xotira tizimlari muhim kontekstni ahamiyatsiz maʼlumotlardan ajratishda qiynalmoqda.

Ikkinchi tadqiqot esa xotira tizimlari modelning ish unumdorligini qanday pasaytirishini koʻrsatdi. Masalan, foydalanuvchi moliya sohasida notoʻgʻri tushunchalarni kiritsa, model kompaniya faoliyatini tahlil qilishda oʻsha xatolarga tayanib notoʻgʻri xulosa beradi. Xotira funksiyasi oʻchirilgan holatda AI toʻgʻri tahlil qilgan boʻlsa, u yoqilganda model foydalanuvchining xatosini maʼqullab, notoʻgʻri javob qaytargan.

Ushbu muammolar turli xil modellarda kuzatilgan boʻlsa-da, tadqiqotda Anthropic kompaniyasining xatolarga qarshi turish uchun maxsus oʻrgatilgan Opus 4.8 modeli ishtirok etmagan. Bu tadqiqot sunʼiy intellekt konteksti qanchalik nozik muvozanatga ega ekanligini va foydali vositalar ehtiyotsizlik bilan qoʻllanilsa, kutilmagan salbiy oqibatlarga olib kelishi mumkinligini isbotlaydi.