Microsoft жасанды интеллект агенттерін бақылаудың жаңа әдісін ұсынды

Жасанды интеллект агенттерінің мүмкіндіктері кеңейіп келе жатқан тұста, кәсіпорындар оларды әртүрлі жұмыс процестері мен өнімдерге енгізуде жаңа мәселелерге тап болуда. Негізгі мәселе — агенттің әртүрлі ортада нақты белгіленген тапсырманы орындауын қамтамасыз ету. Microsoft бұл мәселені шешу үшін Agent Control Specification (ACS) деп аталатын жаңа ашық кодты стандартты жариялады. Бұл стандарт әзірлеушілерге AI агенттерінің мінез-құлқын неғұрлым дәйекті және дәл бақылауға мүмкіндік береді. Бұл туралы Techcrunch.com хабарлайды .

ACS спецификациясы әзірлеушілерге, сәйкестік және қауіпсіздік топтарына агенттер орындауы тиіс жеке саясаттарды белгілеуге мүмкіндік береді. Бұл ережелер агенттің не істей алатынын, неге тыйым салынғанын, адамның растауы қашан талап етілетінін және кейіннен қарау үшін қандай дәлелдер жазылуы керектігін анықтайды. Агент тапсырманы орындау кезінде оның белгіленген шекарадан шығып кетпеуі бірнеше «ұстап қалу нүктелерінде» тексеріліп отырады.

Қазіргі уақытта әзірлеушілер AI мінез-құлқын бақылау үшін жүйелік нұсқауларды (system prompt), қолданба кодындағы арнайы тексерулерді немесе классификаторларды пайдалануда. Алайда, бұл тәсілдер көбінесе бақылау жүйелерінің шашыраңқы болуына әкеліп, оларды аудиттеуді және әртүрлі платформаларда қайта пайдалануды қиындатады. ACS бұл бақылау механизмдерін ортақ басқару қабатына біріктіруді көздейді.

Microsoft мәліметтері бойынша, бұл спецификация агент жұмыс процесінің бірнеше кезеңінде — деректерді алу алдында, құралды шақыру алдында және кейін, сондай-ақ пайдаланушыға түпкілікті жауап жіберілгенге дейін қауіпсіздікті тексеруге мүмкіндік береді. Саясат файлдары жеке құжат ретінде жазылғандықтан, оларды агентпен бірге пакеттеуге және әртүрлі фреймворктар мен орталарда бірдей қауіпсіздік ережелерінің сақталуын қамтамасыз етуге болады.

Жаңа ACS стандарты қазіргі уақытта LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI және Semantic Kernel сияқты танымал платформалар үшін плагиндері бар SDK түрінде ұсынылуда. Бұл әзірлеушілерге өздерінің қолданыстағы AI жобаларына жоғары деңгейдегі басқару және қауіпсіздік қабатын оңай қосуға мүмкіндік береді.