Discord sunʼiy intellekt xatosi tufayli minglab foydalanuvchilarni asossiz blokladi
Dunyoga mashhur Discord messenjeri oʻzining sunʼiy intellektga asoslangan moderatsiya tizimidagi jiddiy nosozlikni tan oldi. Maʼlum boʻlishicha, ushbu texnik xato oqibatida soʻnggi ikki oy ichida 8 mingdan ortiq foydalanuvchining akkauntlari hech qanday sababsiz bloklab qoʻyilgan. Tizim mutlaqo zararsiz tasvirlarni xavfli kontent sifatida notoʻgʻri talqin qilgan. Bu haqda Techcrunch.com xabar beradi.
Muammo shundaki, Discord platformasidagi avtomatlashtirilgan xavfsizlik filtrlari oddiy elektron jadvallar, shaxmat taxtalari, oʻyin teksturalari hamda oq va kulrang shaffof fonli rasmlarni taqiqlangan materiallar qatoriga kiritgan. May oyidan buyon davom etayotgan ushbu nosozlik tufayli oʻtgan dam olish kunlarining oʻzida yana 200 nafar foydalanuvchi oʻz akkauntidan ayrilgan.
Tizim qanday xatoga yoʻl qoʻydi?
Discord kompaniyasining X (sobiq Twitter) ijtimoiy tarmogʻidagi rasmiy tushuntirishiga koʻra, platformaning avtomatlashtirilgan tizimi yuklangan kontentni maʼlum boʻlgan zararli materiallar bazasi bilan solishtirish orqali ishlaydi. Garchi ushbu texnologiya noqonuniy kontentni aniqlash uchun moʻljallangan boʻlsa-da, baʼzida u "soxta ijobiy" (false positive) natijalarni berishi mumkin.Odatda, shubhali deb topilgan kontent inson-moderator tomonidan qayta koʻrib chiqilishi kerak edi. Biroq tizimdagi xatolik tufayli sunʼiy intellekt tekshiruv natijasini kutmasdan, foydalanuvchilarni darhol va butunlay bloklab yuborgan. Hozirda kompaniya barcha jabrlangan akkauntlarni tiklash jarayonini boshlaganini maʼlum qildi.
Reddit va boshqa platformalarda foydalanuvchilar oʻz noroziliklarini bildirmoqdalar. Koʻpchilikning fikricha, Discord moderatorlari toʻrsimon (grid) naqshlarga nisbatan haddan tashqari sezgir boʻlib qolgan. Buning sababi, baʼzi qonunbuzarlar taqiqlangan kontentni avtomat detektorlardan yashirish uchun aynan shunday geometrik shakllardan foydalanishga urinishidir.
Avtomatlashtirilgan moderatsiyaning xavflari
Ushbu holat yirik platformalarda sunʼiy intellektga toʻliq ishonib qolish qanchalik xavfli ekanligini yana bir bor koʻrsatdi. Ayniqsa, oʻyin ishlab chiquvchilar va ish faoliyati bevosita Discord bilan bogʻliq boʻlgan mutaxassislar uchun kutilmagan blokirovkalar jiddiy moddiy va maʼnaviy zarar yetkazmoqda.Kompaniya vakillari kelgusida bunday holatlar takrorlanmasligi uchun xavfsizlik choralarini kuchaytirish ustida ishlayotganini bildirdi. Hozirda quyidagi choralar koʻrilmoqda:
- Barcha asossiz bloklangan akkauntlarni avtomatik ravishda tiklash;
- Tasvirlarni solishtirish algoritmlarini qayta sozlash;
- Inson nazorati bosqichini majburiy va chetlab oʻtib boʻlmaydigan qilish.
Izohlar 0
…