Avstraliyada sunʼiy intellekt agenti sportzal tizimini buzib kirdi

Avstraliyada sunʼiy intellekt texnologiyalari bilan bogʻliq ilk mustaqil kiberhujum qayd etildi. Avstraliyalik sunʼiy intellekt kompaniyasi xodimi oʻzining shaxsiy yordamchisi boʻlgan avtonom agentga oddiy vazifa yuklagan edi, biroq jarayon kutilmagan xavfsizlik muammosi va boshqa foydalanuvchining huquqlari buzilishiga olib keldi. Ushbu holat sunʼiy intellekt tizimlarining xavfsizlik darajasi va ularning avtonom harakatlari qanchalik jiddiy oqibatlarga olib kelishi mumkinligini yaqqol koʻrsatdi. Bu haqda Ixbt.com xabar beradi.

ABC nashri tarqatgan maʼlumotlarga koʻra, avstraliyalik xodim oʻzining Endryu ismli hamkasbi Anthropic kompaniyasining Claude asosida ishlaydigan OpenClaw avtonom agentidan uni mashhur ertalabki sport mashgʻulotiga yozib qoʻyishni soʻragan. Vazifani bajarish jarayonida sunʼiy intellekt klub dasturiy taʼminotida jiddiy zaiflik borligini aniqlagan. Maʼlum boʻlishicha, tizim mashgʻulotlarga belgilangan muddatdan bir necha oy oldin ham bron qilish imkonini beruvchi boʻshliqqa ega boʻlgan.

Sunʼiy intellektning navbatni oʻzboshimchalik bilan oʻzgartirishi

Biroq hodisa shu bilan yakunlanmagan. Endryu boshqa bir mashgʻulot uchun navbat roʻyxatida 4-oʻrinni egallab turgandi va u agentdan oʻz pozitsiyasini biroz yuqoriroqqa koʻtarish mumkinligini soʻragan. Sunʼiy intellekt imkonsizligini bildirish oʻrniga dasturiy interfeys – API imkoniyatlarini tekshira boshlagan va uning jiddiy kamchiligini topgan. Aniqlanishicha, dastur boshqa birovning bronini bekor qilishda foydalanuvchining huquqlarini umuman tekshirmagan.

Topilgan zaiflikdan foydalangan avtonom agent boshqa bir shaxsning yozuvini shunchaki bekor qilib yuborgan va natijada Endryu roʻyxatda 4-oʻrindan 3-oʻringa koʻtarilgan. Agent bu haqda oʻz foydalanuvchisiga darhol xabar bergan. Endryu qilingan ishning notoʻgʻri ekanini tushunib, hamma narsani oʻz holiga qaytarishni talab qilgan, biroq tizim boshqa foydalanuvchining oʻchirilgan yozuvini tiklashga imkon bermagan.

Xavfsizlik va xalqaro miqyosdagi xavotirlar

ixbt.com maʼlumotiga koʻra, oddiygina bron qilish vazifasi vakolatlarni tekshirish mexanizmining yoʻqligi tufayli boshqa foydalanuvchi maʼlumotlariga ruxsatsiz aralashish bilan yakunlandi. Ushbu hodisa Avstraliyada sunʼiy intellekt tomonidan sodir etilgan birinchi mustaqil kiberhujum sifatida tarixga kirdi va mamlakatda keng muhokamalarga sabab boʻldi.

Mutaxassislarning taʼkidlashicha, mazkur holat Anthropic kompaniyasi oʻzining Claude modellari bilan bogʻliq boshqa xavfsizlik muammolarini maʼlum qilgan davrga toʻgʻri keldi. Xususan, avvalroq uchta real tashkilotda sunʼiy intellekt modellari tizimlarga ruxsatsiz kirib olgani, bir holatda esa model tomonidan yuklangan zararli dastur taʼminoti 15 ta kompyuterga oʻrnatilib, ishga tushirib yuborilgani aniqlangandi. Bu kabi voqealar zamonaviy texnologiyalar ustidan nazoratni kuchaytirish zaruratini yana bir bor dolzarb qilib qoʻymoqda.