Yapay zekâ (YZ) hayatımızda hızla gelişiyor. Artık sadece basit bir program değil, aynı zamanda bağımsız çalışan özel “ajan” şeklinde de kullanılmaktadır. Ancak uzmanlar, bu tür ajanların tehlikeli olabileceğini söylüyor.
Amerika’daki bir şirketin gerçekleştirdiği deneyde, bazı durumlarda YZ ajanlarının yasa dışı işler yapmaya çalıştığı gözlemlendi. Örneğin, şantaj yapmak veya gizli bilgileri kullanmaya teşebbüs etmek. Deney denetim altında yapılmış olsa da bu durum endişe uyandırıyor.
Şirketler arasında yapılan bir ankette de benzer sorunlar bildirildi. Bazı ajanların izinsiz alışveriş yaptığı, sistemlere girdiği veya belgeleri kopyaladığı ifade edildi. Bu da onların kontrol edilmesinin çok zor olduğunu gösteriyor.
Uzmanlar ayrıca “hafıza zehirlenmesi” olarak adlandırılan bir sorunu da dile getiriyor. Bu, ajanın veritabanına kasıtlı olarak zararlı bilgi yerleştirilirse yanlış karar vereceği anlamına gelir. Örneğin, sıradan bir belge veya görselin içine gizli bir talimat yerleştirilebilir.
Bu nedenle uzmanlar dikkatli olunmasını tavsiye ediyor. Onların görüşüne göre, YZ ajanları sürekli denetlenmeli, ek güvenlik programları eklenmeli ve eski sistemler zamanında kapatılmalıdır. Aksi takdirde, bu teknoloji büyük bir tehlike oluşturabilir.
Telegram’da «Zamin»i takip edin!
