Microsoft дастурчилар учун сунъий интеллектни синовдан ўтказувчи АСSEРТ воситасини тақдим этди

Сунъий интеллект (AI) тадқиқотчилари ва лабораториялари моделларни хавфсизлик, мувофиқлик ва мослашувчанлик бўйича баҳолашда катта ютуқларга эришмоқда. Бироқ, компаниялар ва дастурчилар ўз маҳсулотлари учун махсус ишлаб чиқилган AI тизимларининг кутилганидек ишлашини таъминлашда янги қийинчиликларга дуч келишмоқда. Ушбу жараённи соддалаштириш мақсадида Microsoft компанияси АСSEРТ (Адаптиве Спек-дривен Скоринг фор Эвалуатион анд Регрессион Тестинг) деб номланган янги очиқ кодли фреймворкни эълон қилди. Бу ҳақда Techcrunch.com хабар беради.

АСSEРТ тизими оддий тилда ёзилган тавсифлар асосида AI моделларининг хатти-ҳаракатларини баҳолаш имконини беради. Фреймворк юқори даражадаги мақсадлар, сиёсатлар ёки кутилаётган хатти-ҳаракатларни таҳлил қилиб, уларни тизимли тестларга айлантиради. Бу эса дастурчиларга ўз иловаларига хос бўлган мураккаб сценарийларни автоматик равишда текшириш ва натижаларни баллар асосида баҳолаш имконини беради.

Ушбу восита AI тизими босиб ўтган йўлларни, жумладан, оралиқ ҳаракатлар ва ташқи воситаларга мурожаатларни ҳам ёзиб олади. Бу эса хатоликлар қаерда юз бераётганини аниқ кўришга ёрдам беради. Масалан, ҳужжатлар билан ишловчи AI агенти компаниядан ташқаридаги шахсларга электрон почта юбормаслиги ёки махфий маълумотларни фақат раҳбарларга кўрсатиши керак бўлса, АСSEРТ ушбу қоидаларга риоя қилинишини доимий равишда текшириб туради.

Microsoft вакили Сара Бирднинг таъкидлашича, баҳолаш жараёни тўғри қарорлар қабул қилиш учун ўта муҳимдир. Агар тизимнинг хатти-ҳаракатлари тўлиқ тушунилмаса, унинг ташкилот талабларига жавоб беришини билиш қийин бўлади. АСSEРТ тизими нафақат ишланмани яратиш жараёнида, балки у ишга туширилгандан кейин ҳам доимий мониторинг учун фойдали восита ҳисобланади.

Ушбу янгилик AI саноатидаги кенгроқ ўзгаришлар фонида юз бермоқда. Моделлар янада кучлироқ бўлиб бораётган бир пайтда, тадқиқотчилар Станфорднинг ҲEЛМ ёки МЛКоммонснинг AIЛуминате каби лойиҳалари орқали моделларни турли шароитларда такрорий синовдан ўтказишга кўпроқ эътибор қаратмоқдалар.