Фальшивые решения, созданные искусственным интеллектом, разоблачены в индийском суде
Фото: Getty Images
Развитие технологий не только облегчает нашу жизнь, но и порождает неожиданные и опасные проблемы. Этот инцидент вызвал большой резонанс в судебной системе Индии: поддельные документы, созданные искусственным интеллектом (ИИ), проникли в залы суда.
Верховный суд Индии постановил пересмотреть решение суда нижней инстанции штата Андхра-Прадеш. Это дело было расценено в стране как \"институциональная озабоченность,\" поскольку ложная информация, созданная цифровым интеллектом, подорвала честность судопроизводства.
Инцидент в Виджаяваде: Ловушка воображаемых источников
Проблема началась в августе прошлого года. Молодой судья из Виджаявады, рассматривая спорное дело о недвижимости, опирался на четыре предыдущих судебных документа, чтобы обосновать свое решение. Однако позже выяснилось, что этих решений в истории вообще не существовало - их \"выдумывала\" система искусственного интеллекта.
Для справки: Генеративные системы ИИ иногда поддаются \"галлюцинациям\" - то есть представляют ложную информацию как истину и даже придумывают ложные источники для нее.
Решительная позиция Верховного суда
Первоначально Верховный суд штата оставил решение в силе, посчитав ошибку судьи \"доброжелательной.\" Но после повторной апелляции ответчика, Верховный суд страны подошел к ситуации более серьезно:
- Дисциплинарное нарушение: Верховный суд назвал это серьёзным дисциплинарным нарушением, а не просто ошибкой.
- Приостановление дела: Исполнение решения по имущественному спору временно приостановлено.
- Человеческий контроль: Суд категорически заявил, что \"необходимо использовать настоящий интеллект, а не искусственный.\"
Мировой \"технологический кризис\"
Индия не одинока в этом отношении. Негативное влияние ИИ на судебную систему наблюдается в глобальном масштабе:
- США: Федеральные судьи подверглись критике за использование инструментов ИИ и ошибки в принятии решений.
- Англия и Уэльс: Верховный суд официально предостерег адвокатов от использования поддельных \"деловых материалов,\" созданных ИИ.
Решение: \"Белая книга\" и новые рекомендации
Верховный суд Индии опубликовал специальную инструкцию - \"белую книгу\" - чтобы взять ситуацию под контроль. В нем особо подчеркиваются безопасные границы использования ИИ и важность человеческого контроля для адвокатов и судебных работников.
Как вы думаете, можно ли полностью доверять искусственному интеллекту в ответственных сферах, например, в суде или медицине?
Следите за самыми важными новостями в мире технологий и права на сайте zamin.uz.
