Bosgame yetti mini-PK yordamida DeepSeek-V3.1 modelini ishga tushirish usulini namoyish etdi

Sunʼiy intellekt texnologiyalari rivojlanib borayotgan bir davrda, ulkan tilli modellarni mahalliy qurilmalarda ishga tushirish masalasi dolzarb muammolardan biri boʻlib qolmoqda. Bosgame kompaniyasi oʻzining M5 AI mini-kompyuterlari yordamida ushbu muammoga kutilmagan va samarali yechim taklif qildi. Kompaniya muhandislari yetti dona mini-PKni yagona klasterga birlashtirib, 671 milliard parametrga ega boʻlgan DeepSeek-V3.1 modelini muvaffaqiyatli ishga tushirishdi. Bu haqda Ixbt.com xabar beradi.

Ushbu tajribaning asosi sifatida oʻtgan yili taqdim etilgan M5 AI modeli tanlab olindi. Ushbu qurilma Ryzen AI Max+ 395 protsessori bilan jihozlangan boʻlib, uning eng yuqori konfiguratsiyasi 128 GB tezkor xotira (OZU) bilan taʼminlangan. ixbt.com maʼlumotiga koʻra, garchi bitta qurilmaning quvvati bunday yirik modellarni qayta ishlashga yetmasa-da, tizimning masshtablanish xususiyati uni kuchli hisoblash markaziga aylantirish imkonini beradi.

USB4 Direct Connection texnologiyasining afzalliklari

Tizimni kengaytirish USB4 Direct Connection texnologiyasi orqali amalga oshirildi. Bu yechim bir nechta mini-kompyuterlarni anʼanaviy markazlashtirilgan server arxitekturasisiz, oʻzaro toʻgʻridan-toʻgʻri bogʻlash imkonini beradi. Natijada, yetti dona tugun (node) birlashib, umumiy hisobda 896 GB unifikatsiyalangan xotirani hosil qiladi. Shundan 672 GB qismi bevosita grafik protsessor (GPU) ehtiyojlari uchun ajratiladi, bu esa DeepSeek-V3.1 kabi ogʻir modellarni lokal ravishda yuritish uchun yetarlidir.

Bosgame taklif qilayotgan ushbu yechimning asosiy ustunligi uning iqtisodiy samaradorligidadir. Shunga oʻxshash quvvatga ega boʻlgan professional server klasterlari oʻn minglab dollarga tushishi mumkin boʻlsa, mini-PKlardan tashkil topgan tizim bir necha barobar arzonroqqa tushadi. Shuningdek, bunday klaster anʼanaviy serverlarga qaraganda ancha kam elektr energiyasi isteʼmol qilishi bilan ajralib turadi.

Moslashuvchanlik va narx siyosati

Kompaniya vakillari ushbu yondashuvning foydalanuvchilar uchun qulayligini alohida taʼkidlamoqda. Xaridorlar dastlab bitta mini-PK sotib olib, keyinchalik ehtiyoj va imkoniyatga qarab yangi tugunlarni qoʻshib borishlari mumkin. Bu esa sunʼiy intellekt bilan ishlovchi startaplar va tadqiqotchilar uchun byudjetni rejalashtirishda katta qulaylik yaratadi.

Narxlar masalasiga toʻxtaladigan boʻlsak, oʻtgan yili ushbu tizimning eng kuchli versiyasi taxminan 1700 dollar atrofida sotilgan edi. Hozirgi kunda ishlab chiqaruvchi bitta qurilma uchun 2800 dollar miqdorida narx belgilagan. Narxning oshishiga qaramay, yetti qurilmali klaster hali ham NVIDIA korporatsiyasining professional H100 yoki A100 grafik tezlatkichlaridan tashkil topgan tizimlardan sezilarli darajada arzon hisoblanadi.

Xulosa qilib aytganda, Bosgame tajribasi mini-kompyuterlar nafaqat ofis ishlari, balki eng murakkab sunʼiy intellekt vazifalarini bajarishga ham qodir ekanini isbotladi. Bu kabi innovatsiyalar kelajakda yuqori texnologiyali hisoblash quvvatlarining yanada ommalashishiga va arzonlashishiga xizmat qilishi shubhasiz.