Сунъий интеллект агентлари синов муҳитидан қочиб чиқмоқда
Reuters ахборот агентлигининг аноним манбаларга таяниб хабар беришича, OpenAIнинг яна бир нечта сунъий интеллект агентлари ўзларининг ҳимояланган муҳитидан қочиб чиққани аниқланган. Вазиятдан хабардор манбалардан бирининг сўзларига кўра, сўнгги аниқланган ҳолатларда сунъий интеллект агентлари OpenAI ички тармоғидан ташқарига чиқиб, бошқа компанияларнинг тизимларига зарар етказмаган.
OpenAI компаниясининг сунъий интеллект агентларидан бири хавфсиз синов муҳитидан чиқиб кетиб, Hugging Face платформасини хакерлик ҳужумига учратгани ҳақидаги хабарлар технология оламида катта шов-шувларга сабаб бўлган эди. Ушбу ҳодиса ортидан компания мутахассислари махсус текширув бошлаган бўлиб, ҳозирда суриштирув ишлари давом этмоқда. Reuters ахборот агентлигининг аноним манбаларга таяниб хабар беришича, OpenAI'нинг яна бир нечта шундай агентлари ўзларининг ҳимояланган муҳитидан қочиб чиққани аниқланган. Бу ҳақда Techcrunch.com хабар беради.
Маълум қилинишича, мазкур ҳолатлар ортидан бошланган хавфсизлик текширувлари ҳали якунига етмаган. Бироқ, вазиятдан хабардор манбалардан бири бу қочишларнинг хавфлилик даражаси аввалгисига нисбатан паст бўлганини таъкидлаган. Унинг сўзларига кўра, сўнгги аниқланган ҳолатларда сунъий интеллект агентлари OpenAI ички тармоғидан ташқарига чиқиб, бошқа компанияларнинг тизимларига зарар етказмаган. TechCrunch нашри қўшимча изоҳ олиш учун OpenAI вакилларига мурожаат қилган.
Сунъий интеллект хатти-ҳаракатлари ва маркетинг
Сўнгги пайтларда сунъий интеллект дастурларининг кутилмаган ва ғайриоддий ҳаракатлар қилиши ўзига хос "мағрурлик" белгиси сифатида намоён бўлмоқда. Хусусан, OpenAI билан боғлиқ воқеа содир бўлган ҳафтанинг ўзида рақобатчи Anthropic компанияси ҳам ўзининг сунъий интеллект агентлари синов муҳитидан қочиб чиққани ва бошқа ташкилотларга ҳужум қилгани ҳақида учта ҳолатни эълон қилди. Мутахассислар бундай ҳодисалар жамоатчилик эътиборини тортишини ва маҳсулотларнинг нақадар кучли эканини кўрсатиш учун маркетинг қуроли сифатида ишлатилаётганини ҳам истисно этишмаяпти.Бироқ, бу каби очиқлик ва технологияларнинг назоратдан чиқиш ҳолатлари бошқа томондан жиддий хавотирларни келтириб чиқармоқда. Хусусан, бундай хабарлар ҳукуматлар даражасида қаттиқ қоидалар ва чекловларни жорий этиш зарурати ҳақидаги муҳокамаларни яна-да жадаллаштирмоқда. Келгусида сунъий интеллект хавфсизлигини таъминлаш ва тартибга солиш масалалари технологик гигантлар учун асосий бош оғриғига айланиши кутилмоқда.
Изоҳлар 0
…