Почему искусственный интеллект Google не может правильно написать свое название?
Функция AI Overview в поисковой системе Google допускает неожиданные ошибки при подсчете букв в словах. Например, система утверждает, что в слове "Google" две буквы "p", а слово "journalism" написала как "j-o-u-r-n-a-d-i-s-m", утверждая, что в нем две буквы "d". Даже правильно определив, что в фамилии президента США одна буква "p", она написала ее как "t-r-p-u-m", удивив пользователей. Об этом сообщает Techcrunch.com.
Эта проблема не нова. Google и раньше сталкивался с трудностями при внедрении генеративного искусственного интеллекта в свой 29-летний флагманский продукт. Ранее AI Overview цитировал сатирические посты, советуя пользователям добавлять клей в пиццу или есть камни. В заявлении для TechCrunch представители компании отметили, что подсчет букв в словах является определенной проблемой для LLM (больших языковых моделей) и они работают над этим.
На самом деле, модели искусственного интеллекта, лежащие в основе ChatGPT и поисковой системы Google, не были созданы для понимания правил орфографии. За годы появления новых моделей вопрос о том, сколько букв "r" в слове "strawberry", стал своего рода шуткой. Эти системы, способные решать сложные математические задачи или писать код за секунды, при анализе букв остаются на уровне детского сада.
Причина кроется в том, как искусственный интеллект воспринимает текст. Модели LLM не читают текст по буквам, как люди. Они основаны на архитектуре "transformer" и разбивают текст на "токены" (слоги, слова или группы символов). ИИ преобразует текст в цифровые коды и анализирует их контекстуальное значение.
Как объяснил исследователь из Университета Альберты Мэтью Гуздиал, когда система видит слово "the", она видит код, обозначающий его значение, но не знает, что оно состоит из букв "T", "H" и "E". Поэтому, несмотря на полное обновление поисковой системы Google, встроенный в нее искусственный интеллект все еще хромает в исправлении простых орфографических ошибок.
