Amazon rahbari Anthropic modellari xavfsizligidan xavotirda

Amazon bosh ijrochi direktori Andy Jassy Anthropic kompaniyasining ikki modeliga butun dunyo boʻylab kirish cheklanishiga sabab boʻlgan xavfsizlik muammolari haqida hukumatni ogohlantirgan boʻlishi mumkin. The Wall Street Journal nashrining xabar berishicha, Jassy AQSH Gʻaznachilik kotibi Scott Bessent va boshqa rasmiylarga Amazon tadqiqotchilari Claude Fable 5 modelidan kiberhujumlarda qoʻllanilishi mumkin boʻlgan maʼlumotlarni olishda foydalanganini maʼlum qilgan. Bu haqda Techcrunch.com xabar beradi.

Ushbu ogohlantirishdan soʻng, AQSH hukumati Fable 5 va Mythos 5 modellariga nisbatan eksport nazorati taqiqini joriy etdi. Amazon vakili WSJ nashriga bergan intervyusida hukumatlar potentsial xavfsizlik xatarlari boʻyicha kompaniya bilan maslahatlashishi odatiy hol ekanini, biroq bunday muzokaralar tafsilotlari oshkor etilmasligini taʼkidladi.

The Information va Reuters nashrlari ham Anthropic kompaniyasining yirik investori hisoblangan Amazon ushbu modellarning xavfsizligi boʻyicha oʻz xavotirlarini bildirganini tasdiqladi. Maʼlumotlarga koʻra, sunʼiy intellekt modellari orqali nozik maʼlumotlarni qoʻlga kiritish imkoniyati jiddiy xavf sifatida baholangan.

Donald Trump maʼmuriyatining sunʼiy intellekt boʻyicha sobiq maslahatchisi David Sacksning soʻzlariga koʻra, Anthropic va AQSH hukumatining ishonchli hamkori modeldagi "jailbreak" (himoyani chetlab oʻtish) holati haqida xabar bergan. Sacksning iddao qilishicha, hukumat Anthropic rahbari Dario Amodei dan ushbu xatoni tuzatishni yoki modelni oʻchirishni soʻragan, biroq Amodei buni rad etgan.