Sunʼiy intellekt xavfsizligi: Claude biologik tadqiqotlarda suiisteʼmol qilindi
Sunʼiy intellekt texnologiyalarining jadal rivojlanishi nafaqat yangi imkoniyatlarni, balki jiddiy xavfsizlik tahdidlarini ham yuzaga keltirmoqda. Mashhur Claude neyrotarmogʻini yaratuvchi Anthropic kompaniyasi oʻzining soʻnggi hisobotida sunʼiy intellekt potentsial ravishda biologik qurol yaratishga qaratilgan tadqiqotlarda ishlatilgani mumkin boʻlgan bir nechta xavfli holatlarni aniqlagani haqida maʼlumot berdi. Bu haqda Ixbt.com xabar beradi.
ixbt.com maʼlumotiga koʻra, mazkur insidentlar 2025-yilning dekabridan 2026-yilning avgustigacha boʻlgan davrda qayd etilgan. Kommutatsiya jarayonida tadqiqotlarning asl niyatini aniqlash qiyinligi asosiy muammoga aylangan, chunki bir xil ilmiy bilimlar ham foydali dori vositalarini yaratishga, ham oʻta xavfli patogenlarni ishlab chiqishga xizmat qilishi mumkin.
Xavfli biologik tadqiqotlar va yashirin urinishlar
Aniqlangan holatlardan birida tadqiqotchilar chivinlar orqali tarqaladigan chikungunya virusi ustida ishlagan. Claude himoya tizimi virus funksiyalarini kuchaytirish boʻyicha grant soʻrovini tayyorlashga qaratilgan soʻrovni bloklagan. Soʻrov ortida harbiy tadqiqot muassasasi turgani aniqlangach, Anthropic xizmatni cheklagan, biroq olimlar ishni boshqa kanallar orqali davom ettirgan.Tahlillar shuni koʻrsatdiki, foydalanuvchilar xavfsizlik mexanizmlari kuchliroq boʻlgan modellarni chetlab oʻtish uchun turli vositalardan foydalanishgan. Xususan:
- Rad etilgan biologik soʻrovlarni xavfsizlik cheklovlari sustroq boʻlgan boshqa AI modellarga yoʻnaltiruvchi vositachi platforma aniqlangan.
- Yuqori patogenli qush grippi boʻyicha tadqiqotda olimlar bir necha hafta davomida Claude yordamida tajribalarni rejalashtirib, kamroq quvvatga ega versiyalar orqali ishni davom ettirgan.
Kiberxavfsizlik va Midnight Blizzard faolligi
Anthropic hisobotida keltirilishicha, sunʼiy intellekt faqatgina biologik sohalarda emas, balki kiberjinoyatlarda ham suiisteʼmol qilingan. Kompaniya aniqlangan kiberoperatsiyalardan birini rossiyalik xakerlarga aloqador deb koʻriluvchi Midnight Blizzard guruhiga bogʻlagan.Ushbu kampaniya doirasida sunʼiy intellekt fishing hujumlarini avtomatlashtirish, tarmoq infratuzilmasini tayyorlash, zararli dasturiy taʼminot yaratish va maʼlumotlarni oʻgʻirlash maqsadida qoʻllanilgan. Bu kabi xatti-harakatlar Ukrainaning va Yevropa davlatlarining davlat, diplomatik hamda mudofaa tuzilmalariga tegishli 20 dan ortiq tashkilotlarga qaratilgan.
Anthropic mutaxassislarining taʼkidlashicha, sunʼiy intellektning ilmiy tahlil qilish imkoniyatlari kengaygani sari suiisteʼmol qilish ehtimoli ham oshib bormoqda. Kompaniya xavfli akkauntlarni bloklab, maʼlumotlarni tegishli organlarga taqdim etgan va yuqori xavfli biologik soʻrovlar boʻyicha cheklovlarni yanada kuchaytirgan.
Izohlar 0
…