ChatGPT'ye anlatılan plan polise ulaştı: Brezilya'da bir çiftçi tutuklandı

Brezilya'da 36 yaşındaki bir çiftçi, ChatGPT ile yaptığı yazışmalarda kendi çocuğuna yönelik ağır bir suç planı hakkında bilgi verdikten sonra polis tarafından tutuklandı. Olay, yapay zeka platformlarındaki güvenlik sistemlerinin nasıl çalıştığına da dikkat çekti.

OpenAI, mesajı ABD yetkililerine iletti

Olay, Espirito Santo eyaletindeki São Gabriel da Palha şehri yakınlarında gerçekleşti. Polis verilerine göre şüpheli, yaklaşık iki ay boyunca ChatGPT ile yazışarak çocuğuna yönelik şiddet planları hakkında bilgi bıraktı.

OpenAI, bu diyalogları güvenlik açısından tespit ederek bilgiyi ABD Federal Soruşturma Bürosu'na (FBI) iletti. Ardından FBI, Brezilya Adalet Bakanlığı'nın CyberLab birimi aracılığıyla yerel kolluk kuvvetlerini uyardı.

Şüpheli, planı gerçekleşmeden bir gün önce yakalandı

Brezilya polisi, şüphelinin planın gerçekleştirilebileceği tarihten bir gün önce, 19 Haziran'da yakalandığını açıkladı. Çocuğun hayatına yönelik gerçek bir tehlike olduğu bilgisi, kolluk kuvvetlerine önceden ulaştırılmıştı.

Polis, şüphelinin tehdit, suça teşvik ve cinayete teşebbüs ile ilgili maddeler kapsamında suçlandığını belirtti. Şüphelinin kimliği açıklanmadı.

Önemli olan, bu vakada ChatGPT'nin suçu işleme aracı olarak değil, tehlikeli bir diyaloğu tespit etmeye yardımcı olan güvenlik sisteminin çalıştığı dijital bir ortam olarak öne çıkmasıdır.

Bu olay, yapay zeka ile yapılan diyalogların güvenlik açısından nasıl izleneceği ve ciddi bir tehlike tespit edildiğinde bilginin hangi prosedürle kolluk kuvvetlerine iletileceği konusundaki tartışmaları daha da alevlendirdi.