Meta, gençler için yeni güvenlik sistemini başlattı: Yapay zeka denetimde
Meta, Meta AI chatbotunu kullanan gençlerin güvenliğini sağlamak amacıyla önemli bir yeniliği duyurdu. Artık reşit olmayan bir kullanıcı, yapay zeka ile olan etkileşiminde kendine zarar verme veya intihar konularından bahsederse, sistem ebeveynleri derhal uyaracak. Bu adım, teknoloji devlerinin genç neslin ruh sağlığı üzerindeki etkilerine yönelik uluslararası eleştirilerin ortasında atılıyor. Bu konuda Techcrunch.com haber veriyor.
Şirketin verilerine göre, gencin davranışlarında risk belirtileri tespit edildiğinde, ebeveynler için tasarlanmış kontrol paneline özel bir bildirim gönderilecek. Meta, bu süreci daha hassas hale getirmek için özel bir yapay zeka modeli geliştirdiğini belirtti. Söz konusu sistem, sohbet içeriğini analiz ederek tehlikeli anahtar kelimeleri tespit etme konusunda uzmanlaşmıştır.
İnsan faktörü ve güvenlik önlemleri
Sistem otomatikleştirilmiş olsa da, Meta hataları önlemek için ek bir inceleme aşaması getirdi. Ixbt.com'un haberine göre, yapay zeka tarafından işaretlenen tüm şüpheli sohbetler, ebeveynlere gönderilmeden önce uzmanlar tarafından manuel olarak inceleniyor. Gencin niyeti belirsiz olsa bile şirket, tedbir amaçlı olarak ebeveynleri bilgilendirmeyi tercih ediyor.Şu anda bu özellik ABD, İngiltere, Avustralya ve Kanada'daki Instagram Parental Supervision (Ebeveyn Denetimi) kullanıcıları için açık. Yıl sonuna kadar bu sistemin dünya genelinde, Özbekistan'daki kullanıcılar da dahil olmak üzere kademeli olarak kullanıma sunulması planlanıyor. Bu, yerel kullanıcıların da çocuklarının dijital iletişimini daha güvenli hale getirmesine olanak tanıyacak.
Acil yardım ve içerik kısıtlamaları
Meta sadece uyarılarla yetinmeyip, acil durumlarda hızlı önlemler almayı da hedefliyor. Bir kullanıcının (genç veya yetişkin fark etmeksizin) hayatının tehlikede olduğu tespit edilirse, şirket ilgili kurtarma servislerine başvurma mekanizmasını da geliştiriyor. Bu uygulama daha önce Facebook ve Instagram sosyal ağlarındaki gönderiler için geçerliyken, artık doğrudan Meta AI sohbetlerine de uygulanacak.Ayrıca, gençler için Meta AI özellikleri kısıtlanmış modda çalışacak. Sistem şu konularda sohbet etmeyi reddedecek:
- Cinsel veya romantik içerikli sohbetler;
- Alkol ve diğer zararlı maddelerle ilgili tartışmalar;
- Şiddeti teşvik eden içerikler.
Yorumlar 0
…