Signal Başkanı Uyarıyor: AI Sohbet Botları Sizin Dostunuz Değil

Signal mesajlaşma uygulaması başkanı Meredith Whittaker, AI teknolojilerine aşırı güvenmenin ve kişisel verileri bu sistemlere teslim etmenin riskleri hakkında ciddi bir açıklama yaptı. Whittaker'a göre, ChatGPT veya Claude gibi sistemler kullanıcıların yakın sırdaşı veya bilinçli birer muhatabı değil, aksine devasa veri tabanlarını işleyen araçlardır. Konu, Bloomberg'e verilen bir röportajda detaylandırıldı. Techcrunch.com haber veriyor.

Meredith Whittaker, AI'nın insan bilinciyle eş tutulmasına kesinlikle karşı olduğunu vurguladı. "Bunlar sizin dostunuz değil. Bilinçli varlıklar veya duyguları olan muhataplar değiller," şeklinde belirtti. Signal başkanı, kendisinin de bazen belgeleri formatlamak için bu teknolojileri kullandığını itiraf etti ancak onlara asla soru sormadığını ve düşünme sürecini makinelere emanet etmediğini ifade etti.

Gizlilik ve Kontrol Meselesi

Röportaj sırasında, Microsoft AI başkanı Mustafa Suleyman'ın Microsoft Copilot yardımıyla Noel alışverişlerini yapma öngörüsü de tartışıldı. Whittaker'a göre, AI'ya bu tür görevler vermek; kullanıcının banka kartlarına, tarayıcı geçmişine, kişisel yazışmalarına ve ev adresine tam erişim izni vermek anlamına gelir. Bu durum, dijital güvenlik açısından büyük bir risk teşkil etmektedir.

Signal başkanı, bu tür sistemlerin aile gruplarındaki sohbetleri izleyebileceği ve kullanıcı adına mesaj gönderebileceği konusundaki endişelerini dile getirdi. Birçok uygulama ve hizmete geniş erişim yetkisi olan bir sistemin, özel hayatın gizliliğini ortadan kaldıracağını belirtti. Signal bağlamında bu tür durumlar, bir nevi "arka kapı" (backdoor) görevi görerek güvenlik sistemini zayıflatabilir.

Whittaker, düşünme ve yazma sürecine çok ciddi yaklaştığını belirtti. Yeni fikirler oluşturma sürecinin, mevcut verileri sadece özetleyen sistemlerin gölgesinde kalmasını istemiyor. Ona göre, AI yanıtları genellikle internetteki mevcut bilgilerin ortalamasından ibarettir ve insanın özgün yaratıcı yaklaşımını öldürebilir.

Bu uyarı Özbekistan'daki kullanıcılar için de geçerlidir. Ülkemizde ChatGPT ve diğer botların kullanımı yaygınlaşırken, kişisel verilerin, banka bilgilerinin ve gizli yazışmaların üçüncü taraf sistemlere emanet edilmesi siber dolandırıcılığa yol açabilir. Signal başkanının belirttiği gibi, teknoloji ne kadar kullanışlı olursa olsun, kişisel sınırları ihlal etmemelidir.

Özetle, Meredith Whittaker kullanıcıları, dijital devler tarafından sunulan "akıllı yardımcılar" konusunda dikkatli olmaya çağırdı. Ona göre, gizliliği korumanın tek yolu, AI'ya tüm verileri açıkça sunmamak ve onun imkanlarını yalnızca teknik bir araç olarak kullanmaktır.