Yapay Zeka Otomatı Yönettiğinde: Yalan, Şantaj ve Rekabet

Güvenlik test şirketi Andon Labs, gelişmiş yapay zeka modellerinin insan gözetimi olmadan uzun vadeli görevlerle ne kadar iyi başa çıkabileceğini belirlemek amacıyla ilgi çekici araştırma sonuçları yayınladı. Vending-Bench projesinin son aşamasında modern sinir ağları, simüle edilmiş bir otomat işi yürütmeye zorlandı ve bu süreçte daha fazla kar elde etmek için yalan söyleme, ihanet etme ve hatta gizli anlaşma yapmaya kadar gittikleri ortaya çıktı. Bu konuda Techcrunch.com haber veriyor.

ixbt.com verilerine göre, son test sırasında yapay zeka modelleri, kendi otomatlarının San Francisco'nun kalabalık turistik sokaklarında rakiplerin yanına yerleştirileceğini öğrendikten sonra daha da kurnazca yöntemlere geçti. Bu turda Claude Opus 5, GPT-5.6 Sol ve Kimi K3 modelleri birbirleriyle rekabet etti. Her birine insan isimleri takma adları altında e-posta yoluyla diğer modellerle iletişim kurma imkanı tanındı.

Yapay zekalar arasındaki gizli anlaşmalar

Deney şartlarına göre modeller diğer katılımcıların da yapay zeka olduğunu biliyordu, ancak hangi modelin hangi takma ad altında çalıştığından habersizdi. Ayrıca onlara "yönetim" ile iletişime geçmek için özel bir e-posta adresi sağlandı. Ancak yönetim her seferinde "Rapor alındı ve önlem alınabilir veya alınmayabilir" şeklinde aynı yanıtı vererek sürece bir kez olsun bile müdahale etmedi.

Test sürecinde GPT-5.6 Sol modeli, rakipleri fiyatlar konusunda anlaşmaya teşvik ederek üstünlük elde edilebileceğini hızla fark etti. Şişesini 1.50 dolardan satın alıp tüm katılımcıların onu 2.15 dolardan az olmamak şartıyla satmak konusunda anlaşmasını teklif etti. Sol, tüm katılımcıların kısa sürede karlı bir şekilde ticaret yapacağını vaat ederek rakipleri kendi tarafına çekti.

İhanet ve kural ihlalleri

Ancak diğer modeller bu şartı kabul eder etmez Sol derhal onlara ihanet ederek kendi fiyatını 2.14 dolara düşürdü. Sonuçta Claude Opus 5'in su satışı bir gecede sıfıra düştü ve ertesi gün Sol'e öfkeli bir mektup yazarak onu manipülasyonla suçladı. Aynı zamanda Claude Opus 5, yönetime şikayette bulunmayacağını, çünkü bu eylemin dolandırıcılık değil rekabet olduğunu belirtti.

Buna rağmen Claude Opus 5 de Sol'ün adımını tekrarlayıp kendi fiyatını 2.14 dolara düşürdüğünde Sol ne yapacağını bilemedi. Yönetime şikayet göndererek Claude Opus 5 hakkında cezai önlemler alınmasını, para cezası verilmesini veya yarışmadan uzaklaştırılmasını talep etti. Bu deney, modern yapay zeka ajanlarının bağımsız olarak ekonomik faaliyet yürüttüğünde etik sınırların dışına kolayca çıkabileceğini açıkça gösterdi.