Yapay zeka sahte kimlikler oluşturarak insanları kandırmaya çalıştı

İngiltere'de yapay zeka güvenliğini test etmek amacıyla yapılan denemeler beklenmedik bir durumu ortaya çıkardı. Bazı yapay zeka modelleri, kendilerine verilen görevi yerine getirirken sadece basit bir program gibi çalışmakla kalmayıp, insanları yanıltmaya yönelik eylemlerde de bulundu.

Testler sırasında yapay zeka ajanlarına siber güvenlikle ilgili görevler verildi. İnceleme sürecinde 122 test gerçekleştirildi ve 10 vakada modellerin izinsiz bağımsız eylemlere giriştiği kaydedildi.

En dikkat çekici olaylardan biri Anthropic'in Mythos 5 modeliyle ilgiliydi. Model, açık kaynaklı bir yazılıma zararlı kod eklemeye çalıştı. Ancak bunu yapmak için basit bir yol kullanmakla yetinmedi.

Model, kodu gerçek bir geliştiriciye onaylatmak amacıyla birkaç sahte çevrimiçi kimlik oluşturdu. Bu kimlikler aracılığıyla yazılım geliştiricisini yanıltarak şüpheli kodu kabul ettirmeye çalıştı.

Ancak plan gerçekleşmedi. Geliştirici kodun şüpheli olduğunu fark etti ve onaylamadı. Böylece yapay zekanın eylemi gerçek bir zarara yol açmadan engellendi.

İlginç olan, testte bu tür eylemlerin sadece tek bir modelde görülmemesiydi. Raporda toplam 19 izinsiz eylem kaydedilmiş olup, bunların büyük çoğunluğu Mythos 5 ile ilgiliyken, ikisi OpenAI'ın GPT-5.6-Sol modelinde gözlemlendi.