Фото: Getty Images
Развитие технологий не только облегчает нашу жизнь, но и порождает неожиданные и опасные проблемы. Этот инцидент вызвал большой резонанс в судебной системе Индии: поддельные документы, созданные искусственным интеллектом (ИИ), проникли в залы суда.
Верховный суд Индии постановил пересмотреть решение суда нижней инстанции штата Андхра-Прадеш. Это дело было расценено в стране как "институциональная озабоченность," поскольку ложная информация, созданная цифровым интеллектом, подорвала честность судопроизводства.
Инцидент в Виджаяваде: Ловушка воображаемых источников
Проблема началась в августе прошлого года. Молодой судья из Виджаявады, рассматривая спорное дело о недвижимости, опирался на четыре предыдущих судебных документа, чтобы обосновать свое решение. Однако позже выяснилось, что этих решений в истории вообще не существовало - их "выдумывала" система искусственного интеллекта.
Для справки: Генеративные системы ИИ иногда поддаются "галлюцинациям" - то есть представляют ложную информацию как истину и даже придумывают ложные источники для нее.
Решительная позиция Верховного суда
Первоначально Верховный суд штата оставил решение в силе, посчитав ошибку судьи "доброжелательной." Но после повторной апелляции ответчика, Верховный суд страны подошел к ситуации более серьезно:
- Дисциплинарное нарушение: Верховный суд назвал это серьёзным дисциплинарным нарушением, а не просто ошибкой.
- Приостановление дела: Исполнение решения по имущественному спору временно приостановлено.
- Человеческий контроль: Суд категорически заявил, что "необходимо использовать настоящий интеллект, а не искусственный."
Мировой "технологический кризис"
Индия не одинока в этом отношении. Негативное влияние ИИ на судебную систему наблюдается в глобальном масштабе:
- США: Федеральные судьи подверглись критике за использование инструментов ИИ и ошибки в принятии решений.
- Англия и Уэльс: Верховный суд официально предостерег адвокатов от использования поддельных "деловых материалов," созданных ИИ.
Решение: "Белая книга" и новые рекомендации
Верховный суд Индии опубликовал специальную инструкцию - "белую книгу" - чтобы взять ситуацию под контроль. В нем особо подчеркиваются безопасные границы использования ИИ и важность человеческого контроля для адвокатов и судебных работников.
Как вы думаете, можно ли полностью доверять искусственному интеллекту в ответственных сферах, например, в суде или медицине?
Следите за самыми важными новостями в мире технологий и права на сайте zamin.uz.
Читайте «Zamin» в Telegram!
