Google TurboQuant deb nomlangan yangi algoritmni taqdim etdi, u yirik til modellarining xotira sarfini olti baravargacha kamaytirishi mumkin. Kompaniya ma'lumotiga ko'ra, usul aniqlikni saqlab qoladi va unumdorlikka sezilarli zarar yetkazmaydi, bu esa AI tizimlarini arzonroq va ishga tushirishni osonroq qilishi mumkin. Bu haqda Tech.onliner.by xabar beradi.
TurboQuant'ning asosiy nishoni til modellarining suhbat davomida tayanadigan keshidir. Bu kesh tizim bir xil hisob-kitoblarni qayta takrorlamasligi uchun muhim ma'lumotlarni saqlaydi. Ammo foydalanuvchi muloqoti uzaygani sari, kesh ham kengayadi, bu esa javoblarni sekinlashtirishi va apparatga bo'lgan talabni oshirishi mumkin.
Google aytishicha, TurboQuant saqlangan ma'lumotlarni siqish va shu jarayonda yuzaga keladigan xatolarni tuzatish orqali bir necha bosqichda ishlaydi. Algoritm bir vaqtning o'zida xotira bosimini va hisoblash xarajatlarini kamaytirish uchun ishlab chiqilgan. Yana bir muhim jihati shundaki, uni mavjud modellarga qo'shimcha tayyorgarliksiz qo'llash mumkin.
Bu ishlanma, ayniqsa, smartfonlar va resurslari cheklangan boshqa qurilmalarda ishlaydigan AI vositalari uchun juda foydali bo'lishi mumkin. Agar u keng joriy etilsa, TurboQuant AI xizmatlari uchun ekspluatatsiya xarajatlarini kamaytirishga yordam berishi va ilg'or modellarni kichikroq hamda quvvati pastroq qurilmalarda amaliyroq qilishi mumkin.
“Zamin”ni Telegramʻda oʻqing!
