Yapay Zeka Hatası Nedeniyle ABD Çin Gemisine Saldırmaya Hazırlandı: Savaşın Eşiğinden Dönüldü

Dünya, iki büyük süper güç olan ABD ve Çin arasında doğrudan bir silahlı çatışmanın ve olası bir nükleer savaşın eşiğinden döndü. Bunun nedeni insan faktörü değil, yapay zekanın hatalı bir sonucu (halüsinasyonu) oldu. Ünlü Amerikan CNN televizyon kanalının gerçekleştirdiği sansasyonel gazetecilik araştırmasına göre olay bahar aylarında yaşandı: Yapay zeka yardımıyla hazırlanan gizli bir raporda, Orta Doğu'da seyreden bir Çin gemisinde nükleer silah programına ait bileşenlerin taşındığına dair yanlış bir sonuca varıldı.

Bu makine analizine dayanan Pentagon, gemiye güç kullanarak el koymak için derhal özel bir operasyon başlattı: Silahlı özel birlikler abordaj için hazırlandı, ABD savaş uçakları ise havalandı. Operasyonun başlamasına sadece dakikalar kala yetkililer, raporu manuel olarak tekrar kontrol ettiklerinde korkunç gerçeği fark ettiler: Belgeyi sıradan bir askeri analist bir yapay zeka sohbet botu aracılığıyla hazırlamıştı ve bot, gemi manifestosunu tamamen yanlış yorumlamıştı. İstihbarat sistemindeki kaynaklardan biri, bu belgeyi "tamamen sahte ve yalan" olarak nitelendirerek, "savaşın başlamasına ramak kaldığını" vurguladı.

Peki, algoritma nasıl böyle ölümcül bir hata yaptı, Amerikalı analistler neden sohbet botuna körü körüne güvendi ve askeri karar alma süreçlerinde yapay zeka kullanımı insanlığı nasıl bir tehlikeye atıyor?

«Özel kuvvetler hazır ve uçaklar havada»: İptal edilen saldırının kronolojisi

CNN kaynakları tarafından ifşa edilen son derece tehlikeli olayın detayları:

• Sahte nükleer tehdit: Yapay zeka sistemi gemi belgelerini inceleyerek, Çin gemisinin Orta Doğu'ya nükleer silah parçaları taşıdığına dair yanlış bir sonuca vardı;

• Birinci derece savaş hazırlığı: ABD askeri komutanlığı, gemiyi durdurmak ve gemiye baskın düzenlemek için operasyon emri verdi: Savaş uçakları havalandı;

• Son andaki kontrol: Güç kullanımına dakikalar kala üst düzey yetkililer verileri tekrar kontrol etti ve raporun bir personel tarafından değil, bir sohbet botu tarafından oluşturulduğunu ortaya çıkardı;

• Resmi itiraf: ABD istihbaratının üst düzey temsilcilerinden biri bu konuda açıkça konuştu: «Rapor yüzde yüz yalandı, ancak neredeyse gerçek bir savaşı başlatıyordu».

«Gizli belgeler internet verilerine karıştı»: Hata nasıl meydana geldi?

Sahte askeri istihbarat verisinin oluşum zinciri:

• Hawaii'deki sorgulama: ABD Pasifik Komutanlığı analisti, radyo-elektronik istihbarat yoluyla ele geçirilen gemi manifestosu verilerini yapay zeka algoritmasına yükleyerek analiz etmesini istedi;

• Veri karışıklığı: Sohbet botu, kapalı gizli kaynakları internetteki açık ve doğrulanmamış haberlerle karıştırarak gerçekle bağdaşmayan korkunç bir sonuç çıkardı;

• Hazır rapor görünümü: Bot, bu verileri standart askeri istihbarat raporu formatında sundu ve bu kağıt doğrudan üst komutanlığın masasına gitti;

• Programın sırrı: Analistin Pentagon'un kapalı askeri sistemini mi yoksa halka açık ticari bir sohbet botunu mu kullandığı henüz açıklanmıyor.

«Yapay zeka hatalı fikirlerin hızını artırıyor»: Askeri uzmanların endişesi

Uzmanların yapay zekanın askeri alana entegrasyonu hakkındaki sonuçları:

• Hız baskısı ve genç kadrolar: Komutanlık tarafından verilerin daha hızlı analiz edilmesi talebi nedeniyle, özellikle genç personel ağır analitik çalışma yerine sinir ağlarına körü körüne güvenmeye başladı;

• Tehlikeli alıntı: CNN ile görüşenlerden biri durumu şöyle açıkladı: «Yapay zeka, kötü ve ölümcül bir fikre daha hızlı ulaşmanıza yardımcı olur»;

• Geri dönülemez misilleme saldırısı riski: Eğer Çin gemisine karşı gerçek bir saldırı gerçekleşseydi, Pekin yönetimi bunu savaş ilanı olarak kabul edip askeri karşılık verecekti.

Bu olay, yapay zekanın basit bir teknik hatasının ve insan ihmalinin tüm gezegeni ölümcül bir jeopolitik savaş girdabına sürükleyebileceğini gösteren en büyük ders oldu.

Sizce, insanların kaderi ve askeri operasyonlar hakkında karar verirken üretken yapay zekanın kullanımına uluslararası düzeyde kesin bir yasak getirilmeli mi? Yapay zeka algoritmalarına nükleer güvenlik emanet edilebilir mi? Analitik düşüncelerinizi yorumlarda paylaşın ve teknolojilerin tehlikeleri hakkındaki bu sansasyonel analizi tüm arkadaşlarınızla ve yakınlarınızla paylaşın!