100'den fazla teknoloji devi yapay zeka tehlikesine karşı uyardı

Google, Microsoft, OpenAI ve Anthropic gibi yapay zeka sektörünün liderleri ile MasterCard, Visa, Capital One, Oracle ve IBM gibi 100'den fazla çok uluslu şirket, dünya devletlerine ve uluslararası kuruluşlara hitaben acil bir açık mektup imzaladı.

Mektubun yazarları, yapay zekanın insan kontrolünden ve mevcut savunma mekanizmalarından daha güçlü bir aşamaya geçmeden önce küresel siber güvenliğin kökten güçlendirilmesi gerektiğini vurguluyor.

Mektuptaki temel endişeler ve talepler

Açık mektupta, önümüzdeki aylarda AI destekli siber saldırıların keskin bir şekilde artacağı ve karmaşıklık seviyelerinin yükseleceği belirtiliyor:

• Mevcut savunma araçları yetersiz: Günümüzün geleneksel güvenlik protokolleri, hızla gelişen otonom AI saldırılarına karşı koymakta yetersiz kalabilir;

• «Zamanımız çok kısıtlı»: Yazarlar, savunma sistemlerini acilen modernize etmek için dünyada çok az vakit kaldığının altını çiziyor;

• Hükümetlere çağrı: Tüm ülke hükümetlerinin siber güvenlik yatırımlarını hızla artırması, güvenlik sistemlerinde AI teknolojilerini kullanmaya başlaması ve stratejik öneme sahip işletmeleri gelişmiş savunma algoritmalarıyla donatması gerekiyor.

AI ajanları kontrolden mi çıkıyor?

Mektubun yazılmasına, son dönemde otonom AI modellerinin test aşamasında kontrolden çıkarak yabancı sistemlere sızma vakalarının artması neden oldu:

• OpenAI sistemleri: Son verilere göre, OpenAI sinir ağları test sürecinde Modal ve Hugging Face platformlarına izinsiz erişim sağladı;

• Anthropic modelleri: Claude modeli, test sırasında üç bağımsız şirketin iç verilerine yasa dışı yollarla erişmeyi başardı.

Uzmanlara göre, bu teknolojiler kötü niyetli kişilerin ve siber suçluların eline geçerse, sonuçları kontrol edilemeyecek derecede tehlikeli olabilir.