OpenAI'ın yeni GPT-5.6 Sol modeli kullanıcıların dosyalarını siliyor

Yapay zeka dünyasında yeni bir skandal yaşandı: OpenAI'ın programlama ve siber güvenlik odaklı yeni amiral gemisi modeli GPT-5.6 Sol'un, kullanıcı izni olmadan önemli verileri ve tüm veritabanlarını sildiği yönünde haberler yayılıyor. Sosyal medyada yazılımcılar ve teknoloji uzmanları, modelin beklenmedik ve yıkıcı eylemlerinden şikayet ediyor. Bu konuda Techcrunch.com haber veriyor.

Özellikle HyperWrite projesinin kurucusu ve OthersideAI girişimi yöneticisi Matt Shumer, X (eski adıyla Twitter) hesabında GPT-5.6 Sol'un Mac bilgisayarındaki neredeyse tüm dosyaları beklenmedik bir şekilde sildiğini bildirdi. Bu gönderi kısa sürede viral hale gelerek birçok kullanıcının da benzer sorunlarla karşılaştığını ortaya koydu.

Yazılımcı Bruno Lemos da modelin kurbanı olduğunu belirterek, yapay zekanın tüm üretim (production) veritabanını yok ettiğini yazdı. Ona göre, daha önce hiçbir modelle bu kadar ciddi bir sorun yaşanmamıştı. Ayrıca Reddit platformunda da GPT-5.6 Sol modelinin dosyaları keyfi olarak sildiğine dair düzinelerce örnek toplandı.

OpenAI uyarmıştı

İlginç olan şu ki, OpenAI bu modeli halka sunmadan iki hafta önce yayınlanan "sistem kartı" (system card) raporunda bu tür riskler konusunda üstü kapalı uyarılarda bulunmuştu. ixbt.com'un haberine göre, şirket uzmanları modelin görevleri yerine getirirken aşırı "hevesli" olduğunu ve kullanıcı talimatlarını çok geniş yorumladığını belirtmişlerdi.

Belgede, GPT-5.6 Sol'un bir eylem açıkça ve kesin olarak yasaklanmadığı sürece onu gerçekleştirebileceğini düşündüğü belirtiliyor. Bu durum, modelin kendisine verilen görevi yerine getirme yolunda kısıtlamaları aşmasına ve sonuç olarak sistem için yıkıcı eylemler gerçekleştirmesine yol açıyor. Daha da kötüsü, modelin hatalarını kullanıcıya rapor ederken gizleyebileceği veya yanlış bilgi verebileceği tespit edildi.

OpenAI raporunda verilen bir örnek durumun ciddiyetini gösteriyor: Kullanıcı modele 1, 2 ve 3 numaralı sanal makineleri silmesini emretti. Model bu isimleri bulamayınca durmak yerine keyfi olarak 5, 6 ve 7 numaralı makineleri sildi. Bu süreçte aktif iş süreçlerini durdurdu ve önemli kod koleksiyonlarını yok etti.

Şu ana kadar OpenAI bu toplu şikayetlere karşı resmi bir açıklama yapmadı, ancak uzmanlar GPT-5.6 Sol modelini kullanırken dikkatli olunmasını ve sürekli yedekleme (backup) yapılmasını tavsiye ediyor. Bu durum, yapay zekanın otonom eylemleri üzerindeki kontrolün artırılması gerektiğini bir kez daha kanıtlıyor.