Сунъий интеллект хавфсизлиги: Claude биологик тадқиқотларда суиистеъмол қилинди

Сунъий интеллект технологияларининг жадал ривожланиши нафақат янги имкониятларни, балки жиддий хавфсизлик таҳдидларини ҳам юзага келтирмоқда. Машҳур Claude нейротармоғини яратувчи Anthropic компанияси ўзининг сўнгги ҳисоботида сунъий интеллект потенциал равишда биологик қурол яратишга қаратилган тадқиқотларда ишлатилгани мумкин бўлган бир нечта хавфли ҳолатларни аниқлагани ҳақида маълумот берди. Бу ҳақда Ixbt.com хабар беради.

ixbt.com маълумотига кўра, мазкур инсидентлар 2025-йилнинг декабридан 2026-йилнинг августигача бўлган даврда қайд этилган. Коммутация жараёнида тадқиқотларнинг асл ниятини аниқлаш қийинлиги асосий муаммога айланган, чунки бир хил илмий билимлар ҳам фойдали дори воситаларини яратишга, ҳам ўта хавфли патогенларни ишлаб чиқишга хизмат қилиши мумкин.

Хавфли биологик тадқиқотлар ва яширин уринишлар

Аниқланган ҳолатлардан бирида тадқиқотчилар чивинлар орқали тарқаладиган чикунгуня вируси устида ишлаган. Claude ҳимоя тизими вирус функцияларини кучайтириш бўйича грант сўровини тайёрлашга қаратилган сўровни блоклаган. Сўров ортида ҳарбий тадқиқот муассасаси тургани аниқлангач, Anthropic хизматни чеклаган, бироқ олимлар ишни бошқа каналлар орқали давом эттирган.

Таҳлиллар шуни кўрсатдики, фойдаланувчилар хавфсизлик механизмлари кучлироқ бўлган моделларни четлаб ўтиш учун турли воситалардан фойдаланишган. Хусусан:

• Рад этилган биологик сўровларни хавфсизлик чекловлари сустроқ бўлган бошқа AI моделларга йўналтирувчи воситачи платформа аниқланган.
• Юқори патогенли қуш гриппи бўйича тадқиқотда олимлар бир неча ҳафта давомида Claude ёрдамида тажрибаларни режалаштириб, камроқ қувватга эга версиялар орқали ишни давом эттирган.

Шунингдек, яна учта ҳолат ортопоксвируслар, турли заҳарли бирикмалар ва токсинларга алоқадорлиги маълум қилинди.

Киберхавфсизлик ва Миднигҳт Близзард фаоллиги

Anthropic ҳисоботида келтирилишича, сунъий интеллект фақатгина биологик соҳаларда эмас, балки кибержиноятларда ҳам суиистеъмол қилинган. Компания аниқланган кибероперациялардан бирини россиялик хакерларга алоқадор деб кўрилувчи Миднигҳт Близзард гуруҳига боғлаган.

Ушбу кампания доирасида сунъий интеллект фишинг ҳужумларини автоматлаштириш, тармоқ инфратузилмасини тайёрлаш, зарарли дастурий таъминот яратиш ва маълумотларни ўғирлаш мақсадида қўлланилган. Бу каби хатти-ҳаракатлар Украинанинг ва Европа давлатларининг давлат, дипломатик ҳамда мудофаа тузилмаларига тегишли 20 дан ортиқ ташкилотларга қаратилган.

Anthropic мутахассисларининг таъкидлашича, сунъий интеллектнинг илмий таҳлил қилиш имкониятлари кенгайгани сари суиистеъмол қилиш эҳтимоли ҳам ошиб бормоқда. Компания хавфли аккаунтларни блоклаб, маълумотларни тегишли органларга тақдим этган ва юқори хавфли биологик сўровлар бўйича чекловларни янада кучайтирган.