Sunʼiy intellekt inqilobi: VKAE tizimi GPU unumdorligini 23 baravargacha oshirdi
Sunʼiy intellekt (AI) sanoatida hisoblash resurslari uchun poyga davom etayotgan bir paytda, asosiy eʼtibor yangi modellarni yaratishdan koʻra, mavjud infratuzilma samaradorligini oshirishga qaratilmoqda. Vidraft kompaniyasi tomonidan taqdim etilgan VKAE inferens tezlashtirish tizimi ushbu yoʻnalishda ulkan sakrashni amalga oshirdi. Ishlab chiquvchilarning taʼkidlashicha, yangi texnologiya apparat qismini oʻzgartirmasdan turib, mavjud GPU (grafik protsessorlar) unumdorligini ayrim ssenariylarda 23 baravargacha oshirish imkonini beradi. Bu haqda Ixbt.com xabar beradi.
Ushbu texnologiyaga boʻlgan qiziqish zamonaviy AI servislarining iqtisodiyoti bilan bogʻliq. Katta til modelini oʻqitish bir marta amalga oshirilsa-da, uning inferens jarayoni — yaʼni foydalanuvchi soʻrovlariga javob generatsiya qilish bosqichi doimiy ravishda davom etadi. Aynan inferens xarajatlari bulutli xizmatlar va korporativ sunʼiy intellekt platformalarining asosiy ekspluatatsiya xarajatlarini belgilaydi. VKAE tizimi mavjud tezlatkichlarning oʻziga xos "dasturiy kengaytmasi" sifatida namoyon boʻlmoqda.
Yangi avlod optimizatsiyasi
Mikrosxema ishlab chiqaruvchilari yangi avlod GPU qurilmalarini yaratishga eʼtibor qaratsa, VKAE kabi tizimlar past darajadagi dasturiy taʼminotni optimallashtirish orqali bor imkoniyatdan maksimal foydalanishga intiladi. Bu jarayon hisoblash yadrolari va vazifalarni rejalashtirish mexanizmlarini qayta koʻrib chiqishni oʻz ichiga oladi. ixbt.com maʼlumotiga koʻra, sinovlar NVIDIA B200 grafik tezlatkichida oʻtkazilgan va natijalar kutilganidan ham yuqori boʻlgan.Sinovlar davomida bir nechta modellar boʻyicha bazaviy tizimlarga nisbatan bir necha barobar yuqori tezlik qayd etildi. Eng muhimi, ishlab chiquvchilar oʻlchovlar davomida javoblar sifatining pasayishi yoki modellarning aniqligi yomonlashishi kuzatilmaganini alohida taʼkidlamoqda. Bu AI tizimlarining ishonchliligini saqlab qolgan holda xarajatlarni keskin kamaytirish imkonini beradi.
Eng hayratlanarli natijalardan biri Qwen3.5-35B-A3B modeli namoyishida qayd etildi. Yuqori darajadagi parallel yuklama ostida tizim soniyasiga 10 mingdan ortiq token (matn birligi) generatsiya qilish unumdorligini koʻrsatdi. Biroq, real sharoitdagi turli xil soʻrovlar uchun bu koʻrsatkich soniyasiga taxminan 455 tokenni tashkil etgan. Bu shuni anglatadiki, samaradorlik koʻrsatkichi bevosita yuklama xarakteriga bogʻliq.
Integratsiya va ochiqlik
VKAE tizimining oʻziga xos jihatlari quyidagilardan iborat:- NVIDIA B200 kabi zamonaviy tezlatkichlarda yuqori oʻtkazuvchanlik;
- OpenAI API interfeyslari bilan toʻliq mos kelishi;
- Mavjud infratuzilmaga deyarli oʻzgarishlarsiz integratsiya qilish imkoniyati;
- Natijalarning qayta takrorlanuvchanligi va shaffofligi.
Oʻzbekiston kabi AI texnologiyalari endi rivojlanayotgan hududlar uchun bunday yechimlar juda muhim. Bu qimmatbaho yangi serverlarni sotib olmasdan, mavjud texnik bazadan foydalangan holda kuchli AI xizmatlarini yoʻlga qoʻyish imkonini beradi. Bu esa oʻz navbatida mahalliy startaplar va IT-kompaniyalar uchun texnologik toʻsiqlarni kamaytiradi.
Izohlar 0
…