Сунъий интеллект инқилоби: VKАE тизими GPU унумдорлигини 23 бараваргача оширди
Сунъий интеллект (AI) саноатида ҳисоблаш ресурслари учун пойга давом этаётган бир пайтда, асосий эътибор янги моделларни яратишдан кўра, мавжуд инфратузилма самарадорлигини оширишга қаратилмоқда. Видрафт компанияси томонидан тақдим этилган VKАE инференс тезлаштириш тизими ушбу йўналишда улкан сакрашни амалга оширди. Ишлаб чиқувчиларнинг таъкидлашича, янги технология аппарат қисмини ўзгартирмасдан туриб, мавжуд GPU (график процессорлар) унумдорлигини айрим сценарийларда 23 бараваргача ошириш имконини беради. Бу ҳақда Ixbt.com хабар беради.
Ушбу технологияга бўлган қизиқиш замонавий AI сервисларининг иқтисодиёти билан боғлиқ. Катта тил моделини ўқитиш бир марта амалга оширилса-да, унинг инференс жараёни — яни фойдаланувчи сўровларига жавоб генерация қилиш босқичи доимий равишда давом этади. Айнан инференс харажатлари булутли хизматлар ва корпоратив сунъий интеллект платформаларининг асосий эксплуатация харажатларини белгилайди. VKАE тизими мавжуд тезлаткичларнинг ўзига хос "дастурий кенгайтмаси" сифатида намоён бўлмоқда.
Янги авлод оптимизацияси
Микросхема ишлаб чиқарувчилари янги авлод GPU қурилмаларини яратишга эътибор қаратса, VKАE каби тизимлар паст даражадаги дастурий таъминотни оптималлаштириш орқали бор имкониятдан максимал фойдаланишга интилади. Бу жараён ҳисоблаш ядролари ва вазифаларни режалаштириш механизмларини қайта кўриб чиқишни ўз ичига олади. ixbt.com маълумотига кўра, синовлар NVIDIA B200 график тезлаткичида ўтказилган ва натижалар кутилганидан ҳам юқори бўлган.Синовлар давомида бир нечта моделлар бўйича базавий тизимларга нисбатан бир неча баробар юқори тезлик қайд этилди. Энг муҳими, ишлаб чиқувчилар ўлчовлар давомида жавоблар сифатининг пасайиши ёки моделларнинг аниқлиги ёмонлашиши кузатилмаганини алоҳида таъкидламоқда. Бу AI тизимларининг ишончлилигини сақлаб қолган ҳолда харажатларни кескин камайтириш имконини беради.
Энг ҳайратланарли натижалардан бири Qwen3.5-35Б-А3Б модели намойишида қайд этилди. Юқори даражадаги параллел юклама остида тизим сониясига 10 мингдан ортиқ токен (матн бирлиги) генерация қилиш унумдорлигини кўрсатди. Бироқ, реал шароитдаги турли хил сўровлар учун бу кўрсаткич сониясига тахминан 455 токенни ташкил этган. Бу шуни англатадики, самарадорлик кўрсаткичи бевосита юклама характерига боғлиқ.
Интеграция ва очиқлик
VKАE тизимининг ўзига хос жиҳатлари қуйидагилардан иборат:- NVIDIA B200 каби замонавий тезлаткичларда юқори ўтказувчанлик;
- OpenAI API интерфейслари билан тўлиқ мос келиши;
- Мавжуд инфратузилмага деярли ўзгаришларсиз интеграция қилиш имконияти;
- Натижаларнинг қайта такрорланувчанлиги ва шаффофлиги.
Ўзбекистон каби AI технологиялари энди ривожланаётган ҳудудлар учун бундай ечимлар жуда муҳим. Бу қимматбаҳо янги серверларни сотиб олмасдан, мавжуд техник базадан фойдаланган ҳолда кучли AI хизматларини йўлга қўйиш имконини беради. Бу эса ўз навбатида маҳаллий стартаплар ва IT-компаниялар учун технологик тўсиқларни камайтиради.
Изоҳлар 0
…