Google arama motorundaki AI Overview özelliği, kelimelerdeki harfleri sayarken beklenmedik hatalar yapıyor. Örneğin sistem, "Google" kelimesinde iki tane "p" harfi olduğunu, "journalism" kelimesinde ise iki tane "d" harfi bulunduğunu iddia ederek onu "j-o-u-r-n-a-d-i-s-m" şeklinde hecelemiştir. Hatta ABD başkanının soyadında bir tane "p" olduğunu doğru bilmesine rağmen onu "t-r-p-u-m" şeklinde yazarak kullanıcıları şaşkına çevirdi. Bu konuda haber veriyor.
Bu sorun yeni değil. Google, 29 yıllık amiral gemisi ürününe üretken yapay zekayı entegre ederken daha önce de zorluklarla karşılaşmıştı. Daha önce AI Overview, kullanıcılara pizzaya yapıştırıcı sürmeyi veya taş yemeyi tavsiye eden hicivli gönderilerden alıntı yapmıştı. Şirket temsilcileri TechCrunch'a yaptıkları açıklamada, kelime içindeki harfleri saymanın LLM'ler (büyük dil modelleri) için belirli bir zorluk teşkil ettiğini ve bunun üzerinde çalıştıklarını belirttiler.
Aslında, ChatGPT ve Google arama motoruna güç veren yapay zeka modelleri, yazım kurallarını anlamak için yaratılmamıştır. Yıllar içinde yeni modeller sunulduğunda, onlara "strawberry" kelimesinde kaç tane "r" harfi olduğunu sormak bir tür şakaya dönüştü. Karmaşık matematik problemlerini çözebilen veya saniyeler içinde kod yazabilen bu sistemler, harfleri analiz etme konusunda anaokulu seviyesinde kalmaktadır.
Bunun nedeni, yapay zekanın metni nasıl algıladığında gizlidir. LLM modelleri metni insanlar gibi harf harf okumaz. "Transformer" mimarisine dayalıdırlar ve metni "token"lara (heceler, kelimeler veya karakter grupları) bölerler. Yapay zeka metni dijital kodlara dönüştürür ve bunların bağlamsal anlamını analiz eder.
Alberta Üniversitesi araştırmacısı Matthew Guzdial'ın açıkladığı gibi, sistem "the" kelimesini gördüğünde onun anlamını ifade eden kodu görür, ancak "T", "H" ve "E" harflerinden oluştuğunu bilmez. Bu nedenle, Google arama motoru tamamen yenilense bile, içindeki yapay zeka basit yazım hatalarını düzeltme konusunda hala aksamaktadır.
“Zamin”i Telegram'da okuyun!
