ChatGPT Güvenlik Sistemindeki Açık: Yapay Zeka Beklenmedik İçerikler Üretiyor

Yapay zeka teknolojilerinin hızla geliştiği bir dönemde, dünyanın en popüler chatbotu olan ChatGPT'nin güvenlik sisteminde ciddi eksiklikler tespit edildi. BBC araştırmacıları ve siber güvenlik uzmanları, sistemin son versiyonunun kullanıcı isteklerini yanlış yorumlayarak son derece korkunç ve ahlak dışı görseller oluşturabileceğini kanıtladı. Bu durum, yapay zekanın etik sınırları ve içerik kontrolünün ne kadar güçlü olduğu sorularını gündeme getiriyor. Ixbt.com haber veriyor.

İngiltere merkezli Mindgard startup'ı uzmanları, ChatGPT sistemindeki DALL-E 3 görsel oluşturucusunu test etti. Elde edilen verilere göre, basit ve şakacı görünen komutları (prompt) biraz değiştirerek sistem yanıltılabiliyor. Sonuç olarak sinir ağı, şiddet sahneleri ve müstehcen içerikli görseller sundu. Bu tür durumlar OpenAI'ın kullanım şartlarına tamamen aykırı olsa da, sistem filtreleri bunu her zaman engelleyemiyor.

Güvenlik önlemleri ve sistemdeki boşluklar

OpenAI temsilcileri söz konusu sorunla ilgili resmi bir açıklama yaparak güvenlik önlemlerini artırdıklarını bildirdi. Şirketin açıklamasına göre, BBC'nin başvurusu sonrası bu tür isteklere karşı ek koruma katmanları devreye alındı. Şirket açıklamasında, "Bu eğilimi inceledik ve kullanıcıların kural dışı içerik üretmesine izin vermeyen çok aşamalı bir korumayı etkinleştirdik" denildi.

Ancak Mindgard kurucusu Peter Garrax, güvenlik önlemleri artırıldıktan sonra bile sistemi atlatma imkanının devam ettiğini vurguladı. Araştırmacılar, komutlarda birkaç küçük değişiklik daha yaparak endişe verici içerikleri yeniden elde etmeyi başardılar. Bu da yapay zeka algoritmalarının insan tarafından girilen hilelere karşı hala savunmasız olduğunu gösteriyor.

En endişe verici olanı ise, ChatGPT'nin bazı durumlarda net bir komut verilmemiş olsa bile, kendi "inisiyatifiyle" ciddi ve korkunç görseller oluşturmasıdır. Garrax'a göre, sistemin oluşturduğu bazı resimler, herhangi bir konu belirtilmediği durumlarda bile son derece dehşet verici ve cinsel karakterde ortaya çıkmıştır. Uzmanlar bunu, yapay zekanın eğitim verileri arasındaki kontrol edilmemiş katmanlarla ilişkilendiriyor.

Özbekistanlı kullanıcılar için uyarı

Şu anda Özbekistan'da da ChatGPT ve benzeri yapay zeka araçları eğitim, iş ve yaratıcı amaçlarla yaygın olarak kullanılıyor. Bu araştırma sonuçları, kullanıcıların, özellikle de reşit olmayanların bu teknolojiyi kullanımının denetlenmesi gerektiğini gösteriyor. Sinir ağlarının her zaman beklenen sonucu vermeyebileceği ve bazen psikoloji üzerinde olumsuz etki yaratabilecek bilgiler sunabileceği unutulmamalıdır.

Uzmanlar, OpenAI gibi büyük şirketleri, ürünlerini halka sunmadan önce daha sıkı testlerden geçirmeye çağırıyor. Teknoloji devleri ne kadar uğraşırsa uğraşsın, yapay zekayı tamamen "düzenlemek" karmaşık bir görev olmaya devam ediyor. Bu da kullanıcılardan dijital okuryazarlık ve dikkatli olmayı gerektiriyor.