Fotoğraf: Getty Images
Teknoloji gelişimi hayatımızı kolaylaştırmakla birlikte, beklenmedik ve tehlikeli sorunlar da ortaya koyuyor. Bu olay, Hindistan yargı sisteminde büyük bir yankı uyandırdı: yapay zeka (AI) tarafından uydurulan sahte belgeler mahkeme salonlarına kadar ulaştı.
Hindistan Yüksek Mahkemesi, Andhra Pradesh eyaletindeki alt derece mahkemesinin kararını gözden geçirmeye karar verdi. Bu dava, dijital zekâ tarafından oluşturulan sahte bilgiler adaletin dürüstlüğüne zarar verdiği için ülkede "kurumsal bir endişe" olarak değerlendirildi.
Vijayavada olayı: Hayali kaynaklar tuzağı
Sorun geçen yılın Ağustos ayında başladı. Vijayawada'daki genç bir hakim, tartışmalı bir gayrimenkul davasını ele alırken kararını gerekçelendirmek için dört önceki mahkeme belgesine dayanıyordu. Ancak, daha sonra ortaya çıktığı gibi, bu kararlar tarihte hiç yoktu - yapay zeka sistemi tarafından "yapılmıştı."
Bilgi için: Üretken yapay zekâ sistemleri bazen "halüsinasyona" maruz kalır - yani yanlış bilgiyi gerçek olarak sunar ve hatta sahte kaynaklar bile icat eder.
Yüksek Mahkeme'nin Keskin Durumu
Başlangıçta, eyalet Yüksek Mahkemesi, yargıçın hatanın "iyi niyetle" yapıldığını düşünerek kararı yürürlükte tuttu. Ancak, sorumlu tarafın tekrarlanan temyizinden sonra, ülkenin Yüksek Mahkemesi duruma daha ciddi bir şekilde yaklaştı:
- Disiplin ihlali: Yüksek Mahkeme bunu basit bir hata değil, ciddi bir disiplin ihlali olarak nitelendirdi.
- Davanın askıya alınması: Mülkiyet anlaşmazlığına ilişkin kararın uygulanması geçici olarak askıya alındı.
- İnsan Kontrolü: Mahkeme, "yapay akıl yerine gerçek akıl kullanılması" gerektiğini kesin olarak belirtti.
Dünya çapında "teknolojik kriz"
Hindistan bu konuda yalnız değil. SI'nin yargı sistemi üzerindeki olumsuz etkisi küresel olarak görülmektedir:
- ABD: Federal hâkimler, yapay zekâ araçlarını kullandıkları ve kararlarında hatalar yaptıkları için eleştirildi.
- İngiltere ve Galler: Yüksek Mahkeme, avukatları yapay zekâ tarafından oluşturulan sahte " dava materyalleri"ne erişmemeleri konusunda resmen uyardı.
Çözüm: Beyaz Kitap ve yeni kılavuzlar
Hindistan Yüksek Mahkemesi, durumu kontrol altına almak için özel bir kılavuz - bir "beyaz kitap" yayınladı. Avukatlar ve mahkeme çalışanları için yapay zekâ kullanımının güvenli sınırları ve insan denetiminin önemi vurgulanmaktadır.
Yargı veya tıp gibi sorumlu alanlarda yapay zekaya tamamen güvenebileceğinizi düşünüyor musunuz?
Teknoloji ve hukuk dünyasındaki en önemli haberleri zamin.uz web sitesinde takip etmeye devam edin.
“Zamin”i Telegram'da okuyun!
