Босгаме етти мини-ПК ёрдамида DeepSeek-V3.1 моделини ишга тушириш усулини намойиш этди

Сунъий интеллект технологиялари ривожланиб бораётган бир даврда, улкан тилли моделларни маҳаллий қурилмаларда ишга тушириш масаласи долзарб муаммолардан бири бўлиб қолмоқда. Босгаме компанияси ўзининг M5 AI мини-компьютерлари ёрдамида ушбу муаммога кутилмаган ва самарали ечим таклиф қилди. Компания муҳандислари етти дона мини-ПКни ягона кластерга бирлаштириб, 671 миллиард параметрга эга бўлган DeepSeek-V3.1 моделини муваффақиятли ишга туширишди. Бу ҳақда Ixbt.com хабар беради.

Ушбу тажрибанинг асоси сифатида ўтган йили тақдим этилган M5 AI модели танлаб олинди. Ушбу қурилма Ryzen AI Max+ 395 процессори билан жиҳозланган бўлиб, унинг энг юқори конфигурацияси 128 GB тезкор хотира (ОЗУ) билан таъминланган. ixbt.com маълумотига кўра, гарчи битта қурилманинг қуввати бундай йирик моделларни қайта ишлашга етмаса-да, тизимнинг масштабланиш хусусияти уни кучли ҳисоблаш марказига айлантириш имконини беради.

USB4 Директ Коннектион технологиясининг афзалликлари

Тизимни кенгайтириш USB4 Директ Коннектион технологияси орқали амалга оширилди. Бу ечим бир нечта мини-компьютерларни анъанавий марказлаштирилган сервер архитектурасисиз, ўзаро тўғридан-тўғри боғлаш имконини беради. Натижада, етти дона тугун (ноде) бирлашиб, умумий ҳисобда 896 GB унификацияланган хотирани ҳосил қилади. Шундан 672 GB қисми бевосита график процессор (GPU) эҳтиёжлари учун ажратилади, бу эса DeepSeek-V3.1 каби оғир моделларни локал равишда юритиш учун етарлидир.

Босгаме таклиф қилаётган ушбу ечимнинг асосий устунлиги унинг иқтисодий самарадорлигидадир. Шунга ўхшаш қувватга эга бўлган профессионал сервер кластерлари ўн минглаб долларга тушиши мумкин бўлса, мини-ПКлардан ташкил топган тизим бир неча баробар арзонроққа тушади. Шунингдек, бундай кластер анъанавий серверларга қараганда анча кам электр энергияси истеъмол қилиши билан ажралиб туради.

Мослашувчанлик ва нарх сиёсати

Компания вакиллари ушбу ёндашувнинг фойдаланувчилар учун қулайлигини алоҳида таъкидламоқда. Харидорлар дастлаб битта мини-ПК сотиб олиб, кейинчалик эҳтиёж ва имкониятга қараб янги тугунларни қўшиб боришлари мумкин. Бу эса сунъий интеллект билан ишловчи стартаплар ва тадқиқотчилар учун бюджетни режалаштиришда катта қулайлик яратади.

Нархлар масаласига тўхталадиган бўлсак, ўтган йили ушбу тизимнинг энг кучли версияси тахминан 1700 доллар атрофида сотилган эди. Ҳозирги кунда ишлаб чиқарувчи битта қурилма учун 2800 доллар миқдорида нарх белгилаган. Нархнинг ошишига қарамай, етти қурилмали кластер ҳали ҳам NVIDIA корпорациясининг профессионал H100 ёки A100 график тезлаткичларидан ташкил топган тизимлардан сезиларли даражада арзон ҳисобланади.

Хулоса қилиб айтганда, Босгаме тажрибаси мини-компьютерлар нафақат офис ишлари, балки энг мураккаб сунъий интеллект вазифаларини бажаришга ҳам қодир эканини исботлади. Бу каби инновациялар келажакда юқори технологияли ҳисоблаш қувватларининг янада оммалашишига ва арзонлашишига хизмат қилиши шубҳасиз.