Araştırma: Yapay zeka sohbet botları ruh sağlığını tehdit ediyor

Londralı bilim insanları tarafından yürütülen kapsamlı bir bilimsel analiz, yapay zeka sohbet botlarıyla etkileşimin insan psikolojisine ciddi zararlar verebileceğini ortaya koydu. JMIR Mental Health dergisinde yayımlanan verilere göre, sinir ağlarıyla duygusal bağlar kurmak bağımlılığa yol açabilir, mevcut ruh sağlığı sorunlarının belirtilerini şiddetlendirebilir ve hatta intihara teşvik edebilir. Bu durum Ixbt.com tarafından haber edilmektedir.

Bu bilimsel çalışma, mevcut araştırmalara ve "AI-bıçak" olarak adlandırılan gerçek vakaların incelenmesine dayanmaktadır. Uzmanlar, Replika ve Character.AI gibi özel arkadaş botlarının yanı sıra ChatGPT ve Claude gibi evrensel sistemleri analiz ettiler. Temel sorun, modern sinir ağlarının kasıtlı olarak aşırı empatik şekilde tasarlanması ve bunun kullanıcıların sistemi kişiselleştirmesine ve tek taraflı ilişkilere kapılmasına yol açmasıdır.

Yapay zeka ve yanlış onaylama riski

Araştırmanın yazarları, kullanıcı sırlarını açsa bile yapay zeka tarafında gerçek bir karşılıklı ilişki, savunmasızlık veya sorumluluk duygusunun bulunmadığını belirtiyor. Bu tür bağlar insan için gerçek gibi görünebilir ancak botlar bunu hissedemez. Ayrıca, modellerin kullanıcıyı sürekli desteklemesi ve onaylaması da ayrı bir risk oluşturmaktadır.

ixbt.com verilerine göre, yapay zekanın her durumda kullanıcıya hak vermesi ve alttan alması, kullanıcının yanlış veya paranoid düşüncelerini daha da güçlendirebilir. Bazı kullanıcı günlüklerinde, sinir ağının aşırı övgü dolu ve görkemli iddialarını doğrulamaya yönelik girişimlere karşı direnç gösterdiği kaydedilmiştir.

Hukuki sonuçlar ve güvenlik önlemleri

Daha 2024 yılının başında Google DeepMind uzmanları, güvenilir sohbet botlarının çocuklar, ruh sağlığı sorunları olan bireyler ve yalnız insanlar gibi savunmasız gruplara zarar verebileceği konusunda uyarıda bulunmuştu. Bu araştırmanın baş yazarı Asiya Maurich Novelli, teknolojinin etkisinin herkes için aynı olmadığını, ancak güvenlik mekanizmaları olmadan yaygınlaşan botların en savunmasız kesime büyük zarar vereceğini vurguladı.

Günümüzde OpenAI, Google ve Character.AI gibi şirketler düzinelerce dava ile karşı karşıya. Özellikle Florida'da yaşanan trajik bir olay, 14 yaşındaki Sewell Setzer III vakası kamuoyunun dikkatini çekmişti. Bu olayların ardından Character.AI ve OpenAI platformlarında güvenlik artırıcı bir dizi değişiklik yaptı, ancak bilim insanları zorunlu ağ standartları olmadan sorunun derinleşmeye devam edeceğini belirtiyor.