Amazon раҳбари Anthropic моделлари хавфсизлигидан хавотирда

Amazon бош ижрочи директори Энди Жассй Anthropic компаниясининг икки моделига бутун дунё бўйлаб кириш чекланишига сабаб бўлган хавфсизлик муаммолари ҳақида ҳукуматни огоҳлантирган бўлиши мумкин. Те Валл Стреэт Жоурнал нашрининг хабар беришича, Жассй АҚШ Ғазначилик котиби Скотт Бессент ва бошқа расмийларга Amazon тадқиқотчилари Claude Fable 5 моделидан киберҳужумларда қўлланилиши мумкин бўлган маълумотларни олишда фойдаланганини маълум қилган. Бу ҳақда Techcrunch.com хабар беради.

Ушбу огоҳлантиришдан сўнг, АҚШ ҳукумати Fable 5 ва Мйтос 5 моделларига нисбатан экспорт назорати тақиқини жорий этди. Amazon вакили ВСЖ нашрига берган интервюсида ҳукуматлар потенциал хавфсизлик хатарлари бўйича компания билан маслаҳатлашиши одатий ҳол эканини, бироқ бундай музокаралар тафсилотлари ошкор этилмаслигини таъкидлади.

Те Информатион ва Reuters нашрлари ҳам Anthropic компаниясининг йирик инвестори ҳисобланган Amazon ушбу моделларнинг хавфсизлиги бўйича ўз хавотирларини билдирганини тасдиқлади. Маълумотларга кўра, сунъий интеллект моделлари орқали нозик маълумотларни қўлга киритиш имконияти жиддий хавф сифатида баҳоланган.

Доналд Трумп маъмуриятининг сунъий интеллект бўйича собиқ маслаҳатчиси Давид Саккснинг сўзларига кўра, Anthropic ва АҚШ ҳукуматининг ишончли ҳамкори моделдаги "жаилбреак" (ҳимояни четлаб ўтиш) ҳолати ҳақида хабар берган. Саккснинг иддао қилишича, ҳукумат Anthropic раҳбари Dario Amodei дан ушбу хатони тузатишни ёки моделни ўчиришни сўраган, бироқ Амодеи буни рад этган.