Discord сунъий интеллект хатоси туфайли минглаб фойдаланувчиларни асоссиз блоклади
Дунёга машҳур Discord мессенжери ўзининг сунъий интеллектга асосланган модерация тизимидаги жиддий носозликни тан олди. Маълум бўлишича, ушбу техник хато оқибатида сўнгги икки ой ичида 8 мингдан ортиқ фойдаланувчининг аккаунтлари ҳеч қандай сабабсиз блоклаб қўйилган. Тизим мутлақо зарарсиз тасвирларни хавфли контент сифатида нотўғри талқин қилган. Бу ҳақда Techcrunch.com хабар беради.
Муаммо шундаки, Discord платформасидаги автоматлаштирилган хавфсизлик фильтрлари оддий электрон жадваллар, шахмат тахталари, ўйин текстуралари ҳамда оқ ва кулранг шаффоф фонли расмларни тақиқланган материаллар қаторига киритган. Май ойидан буён давом этаётган ушбу носозлик туфайли ўтган дам олиш кунларининг ўзида яна 200 нафар фойдаланувчи ўз аккаунтидан айрилган.
Тизим қандай хатога йўл қўйди?
Discord компаниясининг Х (собиқ Twitter) ижтимоий тармоғидаги расмий тушунтиришига кўра, платформанинг автоматлаштирилган тизими юкланган контентни маълум бўлган зарарли материаллар базаси билан солиштириш орқали ишлайди. Гарчи ушбу технология ноқонуний контентни аниқлаш учун мўлжалланган бўлса-да, баъзида у "сохта ижобий" (фалсе поситиве) натижаларни бериши мумкин.Одатда, шубҳали деб топилган контент инсон-модератор томонидан қайта кўриб чиқилиши керак эди. Бироқ тизимдаги хатолик туфайли сунъий интеллект текширув натижасини кутмасдан, фойдаланувчиларни дарҳол ва бутунлай блоклаб юборган. Ҳозирда компания барча жабрланган аккаунтларни тиклаш жараёнини бошлаганини маълум қилди.
Reddit ва бошқа платформаларда фойдаланувчилар ўз норозиликларини билдирмоқдалар. Кўпчиликнинг фикрича, Discord модераторлари тўрсимон (грид) нақшларга нисбатан ҳаддан ташқари сезгир бўлиб қолган. Бунинг сабаби, баъзи қонунбузарлар тақиқланган контентни автомат детекторлардан яшириш учун айнан шундай геометрик шакллардан фойдаланишга уринишидир.
Автоматлаштирилган модерациянинг хавфлари
Ушбу ҳолат йирик платформаларда сунъий интеллектга тўлиқ ишониб қолиш қанчалик хавфли эканлигини яна бир бор кўрсатди. Айниқса, ўйин ишлаб чиқувчилар ва иш фаолияти бевосита Discord билан боғлиқ бўлган мутахассислар учун кутилмаган блокировкалар жиддий моддий ва маънавий зарар етказмоқда.Компания вакиллари келгусида бундай ҳолатлар такрорланмаслиги учун хавфсизлик чораларини кучайтириш устида ишлаётганини билдирди. Ҳозирда қуйидаги чоралар кўрилмоқда:
- Барча асоссиз блокланган аккаунтларни автоматик равишда тиклаш;
- Тасвирларни солиштириш алгоритмларини қайта созлаш;
- Инсон назорати босқичини мажбурий ва четлаб ўтиб бўлмайдиган қилиш.
Изоҳлар 0
…