Новый лидер в гонке ИИ: китайская модель Кими К3 встревожила OpenAI

Новая модель искусственного интеллекта с открытым исходным кодом Кими К3, представленная китайской компанией Муншот, привлекла внимание отраслевых экспертов и крупных технологических корпораций. Эта разработка, за короткое время поднявшаяся на высокие позиции в рейтинге Арена, создает серьезную конкуренцию таким коммерческим гигантам, как OpenAI и Anthropic. Это событие вывело борьбу между закрытыми и открытыми системами на мировом технологическом рынке на новый уровень. Об этом сообщает Иксбт.ком.

Модель Кими К3 демонстрирует впечатляющие результаты своими техническими характеристиками. Она обладает 2,8 триллионами параметров и способна работать с текстом и изображениями. Одной из важнейших особенностей модели является контекстное окно, охватывающее около 1 миллиона токенов. Это позволяет пользователям анализировать и обрабатывать огромные объемы данных одновременно.

Кими Делта Аттентион: новый секрет эффективности

Согласно данным иксбт.ком, в модели Кими К3 применена инновационная архитектура под названием Кими Делта Аттентион (КДА). Эта технология резко повышает эффективность системы при работе с длинными запросами. Обычно в больших языковых моделях с увеличением объема контекста возрастает и объем памяти, необходимый для хранения промежуточных данных, что приводит к замедлению работы системы.

Архитектура КДА использует гибридный подход: она объединяет три состояния, хранящие данные в сжатом виде, и одно состояние, обеспечивающее доступ к полным данным. Этот метод позволяет сохранять важные части диалога в виде краткого «конспекта» и при необходимости обращаться к полному контексту. В результате снижается нагрузка на область специальной памяти, называемую КВ каче, и система работает быстрее.

Также в модели внедрена технология ВидеЭП, распределяющая вычислительные задачи между ускорителями. Хотя это помогает оптимизировать память, общее энергопотребление системы и потребность в высокоскоростной памяти ХБМ остаются высокими. Это делает Кими К3 не только умной, но и технически очень сложной системой.

«ИИ-коммунизм» и реакция OpenAI

Этот успех Китая вызвал серьезную обеспокоенность у руководства OpenAI. Глава отдела стратегического развития компании Деан В. Балл в социальной сети Кс раскритиковал столь быстрый рост моделей с открытым исходным кодом. По его мнению, превращение ИИ в общедоступное и бесплатное благо может привести к сценарию «полного ИИ-коммунизма».

Представитель OpenAI назвал крупные инвестиции в вычислительную инфраструктуру для открытых моделей Китая фактором, замедляющим развитие. Он считает, что восприятие ИИ как социального блага, а не как коммерческого продукта, может в будущем нанести ущерб инновациям и финансовой стабильности в отрасли.

Появление моделей с открытым исходным кодом, таких как Кими К3, является большой возможностью для пользователей и разработчиков. Подобные системы создают условия для использования высоких технологий местными стартапами и исследователями без дорогостоящих лицензий. Ожидается, что конкуренция между закрытыми системами, такими как OpenAI, и открытыми проектами, такими как Муншот, определит направление развития ИТ-сферы на ближайшие годы.