Почему искусственный интеллект Google не может правильно написать свое название?

Функция AI Овервиев в поисковой системе Google допускает неожиданные ошибки при подсчете букв в словах. Например, система утверждает, что в слове "Google" две буквы "п", а слово "джурналисм" написала как "дж-о-у-р-н-а-д-и-с-м", утверждая, что в нем две буквы "д". Даже правильно определив, что в фамилии президента США одна буква "п", она написала ее как "т-р-п-у-м", удивив пользователей. Об этом сообщает Techcrunch.ком.

Эта проблема не нова. Google и раньше сталкивался с трудностями при внедрении генеративного искусственного интеллекта в свой 29-летний флагманский продукт. Ранее AI Овервиев цитировал сатирические посты, советуя пользователям добавлять клей в пиццу или есть камни. В заявлении для TechCrunch представители компании отметили, что подсчет букв в словах является определенной проблемой для LLM (больших языковых моделей) и они работают над этим.

На самом деле, модели искусственного интеллекта, лежащие в основе ChatGPT и поисковой системы Google, не были созданы для понимания правил орфографии. За годы появления новых моделей вопрос о том, сколько букв "р" в слове "стравберрй", стал своего рода шуткой. Эти системы, способные решать сложные математические задачи или писать код за секунды, при анализе букв остаются на уровне детского сада.

Причина кроется в том, как искусственный интеллект воспринимает текст. Модели LLM не читают текст по буквам, как люди. Они основаны на архитектуре "трансформер" и разбивают текст на "токены" (слоги, слова или группы символов). ИИ преобразует текст в цифровые коды и анализирует их контекстуальное значение.

Как объяснил исследователь из Университета Альберты Мэтью Гуздиал, когда система видит слово "те", она видит код, обозначающий его значение, но не знает, что оно состоит из букв "Т", "Х" и "Э". Поэтому, несмотря на полное обновление поисковой системы Google, встроенный в нее искусственный интеллект все еще хромает в исправлении простых орфографических ошибок.