OpenAI более чем в два раза сократила расходы на ИИ без новых чипов
Инженеры OpenAI, лидера в области технологий искусственного интеллекта, нашли способ резко снизить эксплуатационные расходы системы без закупки нового оборудования. По данным издания Те Информатион, компании удалось более чем в два раза сократить вычислительные мощности, необходимые для обработки запросов пользователей ChatGPT. Это достижение означает не только финансовую экономию, но и стратегическое преимущество в условиях глобального дефицита вычислительных ресурсов. Об этом сообщает Иксбт.ком сообщает в материале.
Речь идет об оптимизации инференса (инференке) — процесса, при котором обученная модель непосредственно отвечает на запросы пользователя. На сегодняшний день именно инференс является самой крупной статьей расходов для компаний, развивающих генеративный ИИ. Если обучение модели происходит в определенный промежуток времени, то взаимодействие с пользователями требует отдельных ресурсов для каждого запроса.
Стратегия рационального использования ресурсов
Источники отмечают, что новая система оптимизации, внедренная OpenAI, ориентирована на уровень пользователей, которые используют ChatGPT бесплатно или без регистрации. В результате количество графических процессоров (GPU) NVIDIA, необходимых для обслуживания этих пользователей за определенный период, сократилось на несколько сотен. Для сервиса такого глобального масштаба этот показатель считается неожиданно низким.Пока OpenAI официально не раскрыла, какие именно технологические методы позволили достичь этого результата. Специалисты предполагают, что такая эффективность была достигнута не за счет установки дополнительного оборудования, а путем рационального использования существующей серверной инфраструктуры, улучшения управления памятью или совершенствования алгоритмов пакетной обработки данных.
Эта новость может изменить экономический баланс на рынке искусственного интеллекта. В то время как на чипы NVIDIA выстраиваются очереди, а на строительство центров обработки данных тратятся миллиарды долларов, снижение затрат за счет программного обеспечения является наиболее эффективным путем. Это позволит OpenAI предоставить свои услуги еще более широкой аудитории.
Будущие стратегические возможности
Если эта технология будет применяться в широком масштабе, OpenAI получит следующие возможности:- Расширение спектра бесплатных сервисов;
- Снижение тарифов для корпоративных клиентов;
- Увеличение вычислительной мощности ИИ-агентов без дополнительных затрат;
- Обслуживание большего количества пользователей с помощью существующей инфраструктуры.
Для развивающихся рынков, таких как Узбекистан, подобные новости также имеют важное значение. Поскольку снижение вычислительных затрат в будущем будет способствовать дальнейшему удешевлению и популяризации ChatGPT и аналогичных технологий.
Комментарии 0
…