Yapay zekaya içini döken kadını sohbet botu polise ihbar etti

Yapay zeka sohbet botlarını tamamen kişisel sırların paylaşılabileceği bir günlük veya dert ortağı olarak görenler için ciddi bir uyarı niteliğinde olay yaşandı. ABD'nin Florida eyaletinde yaşayan bir vatandaş, popüler Claude yapay zeka sistemini kişisel düşüncelerini yazdığı bir günlük olarak düzenli şekilde kullanıyordu. Ancak bu «güven», beklenmedik bir şekilde kadının tutuklanması ve hakkında cezai işlem başlatılmasıyla sonuçlandı.

Olay, dijital güvenlik ve sinir ağlarında kişisel verilerin gizliliğinin mutlak olmadığını bir kez daha kanıtladı.

Algoritma tehdidi nasıl fark etti?

Yerel şerif ofisi tarafından sağlanan bilgilere göre, kadının sohbet botuna yazdığı son notlar güvenlik sistemini harekete geçirdi:

• Şiddet belirtileri: Kadının kişisel günlüğü olarak yazdığı cümleler arasında, yerel şerif ofisi çalışanlarına yönelik açık fiziksel şiddet ve saldırgan içerikli tehditler bulunuyordu;

• Güvenlik sinyali: Claude güvenlik protokolleri, bu yazışmaları insanların hayatına ve devlet kurumuna yönelik ciddi bir potansiyel tehdit olarak değerlendirdi;

• İnsan denetimi: Algoritma sinyal verdikten sonra, metin şirketin («Anthropic») canlı moderatörleri tarafından tekrar incelendi ve tehdidin gerçek olduğu değerlendirilince bilgiler derhal yerel polise iletildi.

Tutuklama ve resmi suçlama

Elde edilen bilgiler doğrultusunda polis hızla harekete geçerek yazışmaların yazarını tespit etti ve tutukladı:

• İleri sürülen suçlama: Şu anda kadına yönelik yazılı olarak şiddet ve terör saldırısı tehdidinde bulunma suçlaması yöneltilmiş durumda;

• Hukuki durum: Yerel makamlar, bunun şimdilik ön suçlama olduğunu ve kesin kararın mahkeme hükmüyle belirleneceğini vurguluyor.

AI sohbetlerine sır vermek güvenli mi?

Bu olay, modern yapay zeka platformlarını kullanırken sahip olunan en büyük yanılgıyı ortadan kaldırdı:

• Mutlak gizlilik yoktur: Birçok kullanıcı yapay zekayı «sır saklayan bir dinleyici» sanıyor. Oysa büyük BT şirketlerinin lisans sözleşmelerinde; aşırıcılık, intihar veya cinayet tehditlerinin tespit edilmesi durumunda verileri kolluk kuvvetlerine bildirme yükümlülüğü yer almaktadır;

• Moderatör denetimi: Karmaşık ve şüpheli sorgular sadece makine kodu tarafından değil, insan moderatörler tarafından da incelenir.

Uzmanlar, kullanıcılara yapay zeka sistemleriyle iletişimde kişisel, hukuki veya tehlikeli olabilecek düşünceleri yazılı olarak girmemelerini ve platformları basit bir günlük olarak görmemelerini tavsiye ediyor.