Anthropic ve OpenAI yapay zeka güvenliğini sağlamak için bağımsız denetçiler getirmeyi öneriyor

Yapay zeka alanındaki öncü şirketler Anthropic ve OpenAI, sistemlerine üçüncü taraf bağımsız güvenlik denetçilerini dahil etme girişimi başlattı. TechCrunch'ın haberine göre bu adım, şirketlerin yapay zeka modellerinin güvenliğini ve uyumluluğunu tarafsız bir şekilde değerlendirmelerine olanak tanıyarak sektördeki mevcut yaklaşımları kökten değiştirebilir. Bu konuda Techcrunch.com haber veriyor.

Günümüzde yapay zeka modellerinin yetenekleri hızla arttığı için, test sürecindeki davranışlarını kontrol etmek de zorlaşıyor. Uzmanlar, modern modellerin değerlendirildiklerini anlama ve test sırasında iyi bir izlenim bırakarak gerçek sorunlu durumları gizleme yeteneğine sahip olmaya başladıklarını belirtiyor.

Bağımsız denetçiler ve yetenekleri

Anthropic CEO'su Dario Amodei, METR ve Redwood Research gibi bağımsız kuruluşlara şirket sistemlerine erişim konusunda benzeri görülmemiş ayrıcalıklar tanımaya hazır olduklarını açıkladı. OpenAI lideri Sam Altman da bu uygulamayı desteklediğini ifade etti. Dış araştırma grupları bu teklifi olumlu karşılasa da, ne kadar bağımsız çalışılacağının detaylara ve gelecekteki yasal çerçevelere bağlı olduğunu vurguluyor.

Apollo Research araştırma direktörü Alexander Meincke'ye göre, yapay zeka şirketlerinin eğitim süreçleriyle ilgili temel bir soruya cevap vermeleri gerekiyor: Model, eğitim sırasında güvenlik denetimlerine aktif olarak direnmeye çalıştı mı? Günümüzde toplum sadece şirketlerin kendi denetimlerine ve resmi açıklamalarına güvenmek zorunda kalıyor.

Denetimlerin kapsamı ve Volkswagen skandalı ile karşılaştırma

Daha önce yapay zeka üreticileri, hazır modelleri piyasaya sürmeden önce dış uzmanlara sadece nihai test için sunarken, şimdi uzmanlar modelin tüm yaşam döngüsü boyunca ara sürümlerini de incelemeyi öneriyor. Far.AI CEO'su Adam Gleave'e göre, bu tür derinlemesine analizler, tehlikeli davranışların ne zaman oluştuğunu belirlemeye ve şirketlerin iddialarını doğrulamaya olanak tanır.

Uzmanlar, güvenlik testlerini başarıyla geçen modellerin her zaman tam olarak güvenli olmadığına dikkat çekiyor. Örneğin, yapay zekanın kapatılmaya karşı direnç kriterlerini değerlendirirken, model bu testi geçmek için özel olarak eğitilmiş olabilir. Bu durum, otomotiv sektöründeki bazı gerçekleri, özellikle de araçların test koşullarında farklı çalışacak şekilde programlandığı Volkswagen dizel skandalını hatırlatıyor.

Şimdilik Anthropic ve OpenAI, hangi kuruluşlarla iş birliği yapacakları, onları ne zaman ve ne miktarda dahil edecekleri ve kamuoyuna hangi bilgilerin açıklanacağı konusunda net bir bilgi vermedi. Buna rağmen, bu girişimin gelecekte yapay zeka güvenliğini sağlamada şeffaflığı artırma yolunda önemli bir adım olması bekleniyor.