Фото: Getty Imagеs
Технологиялар ривожланиши ҳаётимизни енгиллаштириш билан бирга, кутилмаган ва хавфли муаммоларни ҳам келтириб чиқармоқда. Бу галги воқеа Ҳиндистон суд тизимида катта шов-шувга сабаб бўлди: сунъий интеллект (СИ) томонидан тўқиб чиқарилган сохта ҳужжатлар суд залларигача кириб борди.
Ҳиндистон Олий суди Андхра-Прадеш штатидаги қуйи инстанция суди чиқарган қарорни қайта кўриб чиқишга қарор қилди. Ушбу иш мамлакатда "институционал хавотир" сифатида баҳоланди, чунки рақамли ақл томонидан яратилган ёлғон маълумотлар судловнинг ҳалоллигига рахна солди.
Вижаявададаги воқеа: Хаёлий манбалар тузоғи
Муаммо ўтган йилнинг август ойида бошланган. Вижаявада шаҳридаги ёш судья баҳсли кўчмас мулк ишини кўриб чиқаётганда, ўз қарорини асослаш учун тўртта олдинги суд ҳужжатига таянган. Бироқ, кейинчалик маълум бўлишича, бу қарорлар тарихда умуман мавжуд бўлмаган — уларни сунъий интеллект тизими "тўқиб чиқарган".
Маълумот учун: Генератив СИ тизимлари баъзан "галлюцинация"га берилади — яъни ёлғон ахборотни ҳақиқат сифатида тақдим этиб, ҳатто унга сохта манбалар ҳам ўйлаб топади.
Олий суднинг кескин позицияси
Дастлаб штат Олий суди судьянинг хатосини "яхши ният" билан қилинган деб ҳисоблаб, қарорни ўз кучида қолдирган эди. Аммо жавобгар томоннинг такрорий апелляциясидан сўнг, мамлакат Юқори маҳкамаси вазиятга жиддийроқ ёндашди:
Интизомий бузилиш: Олий суд буни оддий хато эмас, балки жиддий интизомий қоидабузарлик деб атади.
Ишнинг тўхтатилиши: Мулк низоси бўйича чиқарилган қарор ижроси вақтинча тўхтатиб қўйилди.
Инсон назорати: Суд "сунъий интеллектдан кўра, ҳақиқий интеллектни ишга солиш" лозимлигини қатъий таъкидлади.
Дунё бўйлаб "технологик инқироз"
Ҳиндистон бу борада ёлғиз эмас. СИнинг суд тизимига салбий таъсири глобал миқёсда кузатилмоқда:
АҚШ: Федерал судьялар СИ воситаларидан фойдалангани ва қарорларда хатоликларга йўл қўйгани учун танқид остига олинди.
Англия ва Уэльс: Юқори суд адвокатларни СИ яратган сохта "иш материаллари"дан фойдаланмаслик ҳақида расман огоҳлантирди.
Ечим: "Оқ китоб" ва янги йўриқномалар
Ҳиндистон Олий суди вазиятни назоратга олиш учун махсус йўриқнома — "оқ китоб" эълон қилди. Унда адвокатлар ва суд ходимлари учун СИдан фойдаланишнинг хавфсиз чегаралари ва инсон назоратининг муҳимлиги алоҳида кўрсатилган.
Сизнингча, масъулиятли соҳаларда, масалан, суд ёки тиббиётда сунъий интеллектга тўлиқ ишониш мумкинми?
Технология ва ҳуқуқ оламидаги энг муҳим янгиликларни zamin.uz сайтида кузатишда давом этинг.
“Zamin”ни Telegram'да ўқинг!
