Yapay zeka güvenliği: Claude biyolojik araştırmalarda kötüye kullanıldı

Yapay zeka teknolojilerinin hızla gelişmesi, sadece yeni fırsatlar değil, aynı zamanda ciddi güvenlik tehditlerini de beraberinde getiriyor. Popüler Claude yapay zekasını geliştiren Anthropic şirketi, son raporunda yapay zekanın potansiyel olarak biyolojik silah oluşturmaya yönelik araştırmalarda kullanılmış olabileceği birkaç tehlikeli durumu tespit ettiğini duyurdu. Bu konuda Ixbt.com haber veriyor.

ixbt.com'un bilgilerine göre, söz konusu olaylar Aralık 2025 ile Ağustos 2026 tarihleri arasında kaydedildi. Araştırmaların asıl niyetini tespit etmenin zorluğu ana sorun haline geldi, çünkü aynı bilimsel bilgiler hem faydalı ilaçlar geliştirmek hem de son derece tehlikeli patojenler üretmek için kullanılabilir.

Tehlikeli biyolojik araştırmalar ve gizli girişimler

Tespit edilen vakalardan birinde araştırmacılar, sivrisinekler yoluyla yayılan chikungunya virüsü üzerinde çalışıyordu. Claude'un güvenlik sistemi, virüsün fonksiyonlarını güçlendirmeye yönelik bir hibe başvurusu hazırlama talebini engelledi. Talebin arkasında askeri bir araştırma kurumunun olduğu belirlenince Anthropic hizmeti kısıtladı, ancak bilim insanları çalışmaya başka kanallar üzerinden devam etti.

Analizler, kullanıcıların güvenlik mekanizmaları daha güçlü olan modelleri atlatmak için çeşitli araçlar kullandığını gösterdi. Özellikle:

• Reddedilen biyolojik talepleri, güvenlik kısıtlamaları daha zayıf olan diğer AI modellerine yönlendiren bir aracı platform tespit edildi.
• Yüksek patojenli kuş gribi üzerine yapılan bir araştırmada bilim insanları, birkaç hafta boyunca Claude yardımıyla deneyleri planladı ve daha düşük kapasiteli versiyonlar aracılığıyla çalışmayı sürdürdü.

Ayrıca ortopoksvirüsler, çeşitli zehirli bileşikler ve toksinlerle ilgili üç vaka daha bildirildi.

Siber güvenlik ve Midnight Blizzard faaliyetleri

Anthropic raporuna göre, yapay zeka sadece biyolojik alanlarda değil, siber suçlarda da kötüye kullanıldı. Şirket, tespit edilen siber operasyonlardan birini Rus hackerlarla bağlantılı olduğu düşünülen Midnight Blizzard grubuna bağladı.

Bu kampanya kapsamında yapay zeka; oltalama (phishing) saldırılarını otomatikleştirmek, ağ altyapısını hazırlamak, kötü amaçlı yazılım oluşturmak ve veri çalmak amacıyla kullanıldı. Bu tür eylemler, Ukrayna ve Avrupa ülkelerinin devlet, diplomatik ve savunma kurumlarına ait 20'den fazla kuruluşu hedef aldı.

Anthropic uzmanları, yapay zekanın bilimsel analiz yetenekleri genişledikçe kötüye kullanım olasılığının da arttığını belirtiyor. Şirket, tehlikeli hesapları engelleyerek verileri ilgili makamlara sundu ve yüksek riskli biyolojik taleplere yönelik kısıtlamaları daha da sıkılaştırdı.