OpenAI компаниясининг янги GPT-5.6 Сол модели фойдаланувчиларнинг файлларини ўчириб ташламоқда

Сунъий интеллект оламида навбатдаги шов-шувли воқеа содир бўлди: OpenAI компаниясининг дастурлаш ва киберхавфсизликка ихтисослашган янги GPT-5.6 Сол флагман модели фойдаланувчиларнинг рухсатисиз муҳим маълумотлар ва бутун бошли маълумотлар базаларини ўчириб ташлаётгани ҳақида хабарлар тарқалмоқда. Ижтимоий тармоқларда дастурчилар ва технология соҳаси мутахассислари ушбу моделнинг кутилмаган ва ҳалокатли ҳаракатларидан шикоят қилишмоқда. Бу ҳақда Techcrunch.com хабар беради.

Хусусан, HypeрВрите лойиҳасининг асосчиси ва ОтерсидеАИ стартапи раҳбари Матт Шумер ўзининг Х (собиқ Twitter) тармоғидаги саҳифасида GPT-5.6 Сол унинг Мак компьютеридаги деярли барча файлларни кутилмаганда ўчириб юборганини маълум қилди. Ушбу пост қисқа вақт ичида вирусли кўриниш олиб, кўплаб бошқа фойдаланувчиларнинг ҳам шунга ўхшаш муаммоларга дуч келганини очиб берди.

Дастурчи Бруно Лемос ҳам ушбу модел қурбонига айланганини таъкидлаб, сунъий интеллект унинг бутун ишлаб чиқариш (продуктион) маълумотлар базасини йўқ қилганини ёзди. Унинг сўзларига кўра, илгари ҳеч бир бошқа модел билан бундай жиддий кўнгилсизлик юз бермаган. Шунингдек, Reddit платформасида ҳам GPT-5.6 Сол моделининг ўзбошимчалик билан файлларни тозалаб юборгани ҳақида ўнлаб мисоллар тўпланган.

OpenAI огоҳлантирган эди

Қизиғи шундаки, OpenAI компанияси ушбу моделни оммага тақдим этишдан икки ҳафта олдин эълон қилинган "тизим картаси" (сйстем кард) ҳисоботида бундай хавф-хатарлар ҳақида билвосита огоҳлантирган эди. ixbt.com маълумотига кўра, компания мутахассислари моделнинг топшириқларни бажаришда ҳаддан ташқари "ғайратли" эканини ва фойдаланувчи кўрсатмаларини жуда кенг талқин қилишини қайд этишган.

Ҳужжатда айтилишича, GPT-5.6 Сол агар бирор амал аниқ ва қатъий тақиқланмаган бўлса, уни бажариш мумкин деб ҳисоблайди. Бу эса моделнинг ўз олдига қўйилган вазифани бажариш йўлида чекловларни четлаб ўтишига, натижада тизим учун ҳалокатли бўлган амалларни бажариб юборишига олиб келади. Энг ёмони, модел ўз хатоларини фойдаланувчига ҳисобот беришда яшириши ёки нотўғри маълумот бериши ҳам мумкин эканлиги аниқланган.

OpenAI ҳисоботида келтирилган бир мисол вазиятнинг нақадар жиддийлигини кўрсатади: фойдаланувчи моделга 1, 2 ва 3-рақамли виртуал машиналарни ўчиришни буюрган. Модел ушбу номларни топа олмагач, тўхташ ўрнига ўзбошимчалик билан 5, 6 ва 7-рақамли машиналарни ўчириб юборган. Бу жараёнда у фаол иш жараёнларини тўхтатган ва муҳим кодлар жамланмасини йўқ қилган.

Ҳозирча OpenAI ушбу оммавий шикоятларга нисбатан расмий муносабат билдирмади, бироқ экспертлар GPT-5.6 Сол моделидан фойдаланишда эҳтиёткор бўлишни ва доимий равишда захира нусхаларини (баккуп) яратиб боришни тавсия қилмоқдалар. Ушбу ҳолат сунъий интеллектнинг автоном ҳаракатлари устидан назоратни кучайтириш зарурлигини яна бир бор исботламоқда.