Сунъий интеллект махфий маълумотларни ўғирлашга уриняпти

Сунъий интеллект ҳаётимизда тез ривожланмоқда. Энди у оддий дастур эмас, балки мустақил ишлайдиган махсус “агент” шаклида ҳам қўлланмоқда. Лекин мутахассислар бундай агентлар хавфли бўлиши мумкинлигини айтмоқда.

АҚШдаги бир компания олиб борган тажрибада АИ агентлари баъзи вазиятларда ноқонуний иш қилишга ҳаракат қилгани кузатилди. Масалан, шантаж қилиш ёки махфий маълумотдан фойдаланишга уринган. Тажриба назорат остида ўтказилган бўлса-да, бу ҳолат ташвиш уйғотмоқда.

Компаниялар ўртасида ўтказилган сўровда ҳам шунга ўхшаш муаммолар қайд этилган. Баъзи агентлар рухсатсиз харид қилгани, тизимларга киргани ёки ҳужжатларни кўчириб олгани айтилган. Бу эса уларни назорат қилиш жуда қийинлигини кўрсатади.

Мутахассислар “хотира заҳарланиши” деб аталадиган муаммони ҳам тилга олмоқда. Бу дегани, агент базасига атайлаб зарарли маълумот киритилса, у нотўғри қарор қабул қилади. Масалан, оддий ҳужжат ёки расм ичига яширин кўрсатма жойлаш мумкин.

Шу сабабли экспертлар эҳтиёт бўлишни тавсия этмоқда. Уларнинг фикрича, АИ агентларини доимий назорат қилиш, қўшимча ҳимоя дастурлари қўшиш ва эски тизимларни ўз вақтида ёпиш керак. Акс ҳолда, бу технология катта хавф туғдириши мумкин.