Сунъий интеллектга қалб дафтарини очган аёлни чат-бот полицияга тутиб берди
Сунъий интеллект чат-ботларини мутлақо шахсий сирларни ишонса бўладиган кундалик ёки беминнат ҳамсуҳбат деб билувчилар учун жиддий огоҳлантириш бўлган воқеа юз берди. АҚШнинг Флорида штатида яшовчи фуқаро машҳур Claude сунъий интеллект тизимидан шахсий фикрларини ёзиб борадиган кундалик сифатида мунтазам фойдаланиб келган. Бироқ ушбу «ишонч» кутилмаганда аёлнинг ҳибсга олиниши ва унга нисбатан жиноий иш очилиши билан якунланди.
Ҳодиса рақамли хавфсизлик ва нейротармоқларда шахсий маълумотлар махфийлиги мутлақ эмаслигини яна бир бор исботлади.
Алгоритм таҳдидни қандай пайқади?
Маҳаллий шериф бошқармаси тақдим этган маълумотларга кўра, аёлнинг чат-ботга ёзган навбатдаги қайдлари хавфсизлик тизимини ҳаракатга келтирган:
Зўравонлик белгилари: Аёлнинг шахсий кундалиги сифатида ёзган жумлалари орасида маҳаллий шериф идораси ходимларига нисбатан очиқ жисмоний зўравонлик ва тажовузкор мазмундаги таҳдидлар бўлган;
Хавфсизлик сигнали: Claude хавфсизлик протоколлари ушбу ёзишмаларни инсонлар ҳаёти ва давлат идорасига нисбатан жиддий потенциал таҳдид сифатида баҳолаган;
Инсон назорати: Алгоритм сигнал бергач, ушбу матн компаниянинг («Anthropic») жонли модераторлари томонидан қайта текширилган ва таҳдид реал деб баҳолангач, маълумот зудлик билан маҳаллий полицияга тақдим этилган.
Ҳибсга олиш ва расмий айблов
Олинган маълумотлар асосида полиция тезкорлик билан ҳаракат қилиб, ёзишмалар муаллифини аниқлади ва уни ҳибсга олди:
Илгари сурилган айблов: Айни пайтда аёлга нисбатан ёзма равишда зўравонлик ва теракт билан таҳдид қилиш айблови қўйилган;
Ҳуқуқий ҳолат: Маҳаллий идоралар бу ҳозирча дастлабки айблов эканини ва узил-кесил қарор суд ҳукми билан белгиланишини таъкидламоқда.
AI-чатларга сир айтиш хавфсизми?
Ушбу ҳодиса замонавий сунъий интеллект платформаларидан фойдаланишдаги энг катта иллюзияни йўққа чиқарди:
Абсолют махфийлик йўқ: Кўплаб фойдаланувчилар сунъий интеллектни «сир сақлайдиган тингловчи» деб ўйлашади. Аслида эса йирик IT-компанияларнинг лицензия келишувларида экстремизм, ўз жонига қасд қилиш ёки қотиллик таҳдидлари аниқланган тақдирда маълумотларни ҳуқуқ-тартибот идораларига бериш мажбурияти кўрсатилган;
Модераторлар назорати: Мураккаб ва шубҳали сўровлар нафақат машина коди, балки инсон-модераторлар томонидан кўриб чиқилади.
Мутахассислар фойдаланувчиларга AI тизимлари билан мулоқотда шахсий, ҳуқуқий ёки хавфли бўлиши мумкин бўлган фикрларни ёзма равишда киритмасликни ва платформаларни оддий кундалик деб қабул қилмасликни тавсия қилмоқда.
Изоҳлар 0
…