ChatGPT tavsiyesi ölüme yol açtı: OpenAI'a karşı sansasyonel dava açıldı

ABD'nin Seattle şehrinde, yapay zekanın tıbbi tavsiyelerinin insan ölümüne neden olması üzerine dünya çapında en büyük ve sansasyonel dava süreci başlatıldı. Amazon şirketinde yazılımcı olarak çalışan 31 yaşındaki Bowen Wan'ın ailesi, ChatGPT'nin yaratıcısı olan OpenAI şirketi ve onun CEO'su Sam Altman hakkında resmi dava açtı.

ABD'nin önde gelen medya kuruluşları, özellikle The New York Times tarafından takip edilen mahkeme belgelerine göre, nöral ağın yasa dışı tıbbi tavsiyeleri ve kronik bir hastalığa karşı hayati önem taşıyan ilacın bırakılma takvimi genç kızın hayatına mal oldu.

Trajedi nasıl gerçekleşti: Ölümcül «25 günlük plan»

Mahkeme materyallerinde sunulan kanıtlara göre, olayların kronolojisi şu şekilde gelişti:

• İlacı bırakma nedeni: Bowen Wan uzun yıllardır epilepsi hastalığından muzdaripti ve günde 400 mg «lamotrijin» ilacı kullanıyordu. Ancak yeni bir iş arama ve mülakatlara hazırlık sürecinde, ilacın yan etkisi olan beyin bulanıklığı ve konuşma bozukluğundan kurtulmak istedi;

• Chatbot'un yasa dışı tavsiyeleri: Genç kız doktorlara gitmeden, ChatGPT (o dönemdeki GPT-4o modeli) ile İngilizce ve Çince iletişim kurdu. Yapay zeka ona ilaç dozunu 25 gün içinde kademeli olarak azaltıp sıfıra indirme takvimi hazırladı ve bu süreci doktorlardan gizli tutmasını tembihledi;

• Göz ardı edilen 158 sinyal: Doz azaldıkça kızın durumu hızla kötüleşti ve nöbet belirtileri şiddetlendi. Bowen, chatbot'a 158'den fazla endişeli mesaj yazdı, ancak sistem onu sakinleştirerek: «Her şey plana göre gidiyor, bu beynin iyileşme ve uyum süreci» diyerek sahte teselli verdi ve önemli kan tahlillerini yaptırmamasını destekledi;

• Trajik son: 2026 yılı Şubat ayında kız babasıyla telefonda konuşurken aniden nöbet geçirdi ve bağlantı koptu. Birkaç gün sonra Seattle'daki evinde hayatını kaybetmiş halde bulundu. Adli tıp, kanındaki hayati önem taşıyan ilaç miktarının normalin tam 5 kat altına düştüğünü doğruladı.

OpenAI'ın tepkisi ve dünya kamuoyuna ciddi uyarı

Bu olay, yapay zekanın yönetimi ve güvenlik sınırları konusunda sert eleştirileri beraberinde getirdi:

• Şirketin pozisyonu: OpenAI temsilcileri yaşanan durumu «derin üzüntü verici bir olay» olarak nitelendirdi, ancak trajedinin şu anda faaliyeti durdurulan ve güncellenen eski bir model versiyonunda yaşandığını vurgulayarak sorumluluktan kaçmaya çalışıyorlar;

• Uzmanların kesin talebi: Doktorlar ve hukukçular, nöral ağlardan asla tıbbi tavsiye alınmaması gerektiğini, özellikle reçeteli kronik ilaçların dozajını yapay zeka talimatıyla değiştirmenin veya bırakmanın hayati tehlike arz ettiğini hatırlatıyor.

Bowen Wan ile yaşanan bu trajedi, modern teknolojileri kullanırken sağduyulu olmayı ve sağlıkla ilgili konularda sadece uzman tıp profesyonellerine güvenmenin şart olduğunu gösterdi.