ChatGPT yeniden eleştirilerin odağında: WSJ tartışmalı bilgileri yayımladı

Amerika'nın nüfuzlu gazetesi The Wall Street Journal, yapay zeka güvenliğiyle ilgili tartışmalı bir bilgiyi yayımladı. Habere göre, bazı kullanıcıların ChatGPT aracılığıyla biyolojik silahlar ve zehirler hakkında tehlikeli bilgiler edinmeye çalıştığı, bazı durumlarda ise sistemin ayrıntılı yanıtlar verdiği uzman görüşleriyle aktarıldı.

Makaleye göre, OpenAI modelleri güncellendikten sonra çeşitli kullanıcılar biyoloji ve kimya ile ilgili tehlikeli konular hakkında sorgular gönderdi. Uzmanlar, bazı yanıtların teknik olarak doğru olduğunu vurguladı.

Bununla birlikte OpenAI, tehlikeli sorgularla ilgili hesapların engellendiğini, modellerin sürekli olarak yeniden eğitildiğini ve güvenlik kısıtlamalarının artırıldığını bildirdi. Şirket yetkilileri, mevcut sistemlerde bu tür bilgilerin sağlanmaması için katı filtrelerin devreye sokulduğunu kaydetti.

WSJ'nin haberine göre, ABD'de yapay zeka şirketlerinin bu tür sorgularla ilgili zorunlu olarak rapor vermesine veya bunları otomatik olarak kolluk kuvvetlerine göndermesine yönelik henüz tek bir federal yasa bulunmuyor.

Yayın ayrıca, tehlikeli bilgileri arayan bazı kullanıcıların diğer büyük sohbet botlarına da başvurduğunu yazdı, ancak bu kişilerin nasıl bir yanıt aldığına dair kesin bir bilgi verilmedi.

OpenAI, Anthropic ve Google gibi şirketler ise yapay zekanın zararlı amaçlarla kullanılmasını önlemek amacıyla hükümetler ve bağımsız güvenlik uzmanlarıyla iş birliği yaptıklarını vurguluyor.

Uzmanlara göre, yapay zeka teknolojilerinin hızla gelişmesi nedeniyle güvenlik meselesi küresel düzeydeki temel tartışma konularından biri haline geliyor. Bu nedenle büyük teknoloji şirketleri, modellerin koruma mekanizmalarını düzenli olarak güçlendirmek için çalışmalar yürüttüklerini bildiriyor.