Atigi 10 dollarlik mikrokontrollerda sunʼiy intellekt ishga tushirildi

Sunʼiy intellekt texnologiyalari shiddat bilan rivojlanib borayotgan bir davrda koʻpchilik kuchli grafik tezlatgichlar va gigabaytlab tezkor xotiraga ega qimmatbaho qurilmalargagina tayanadi. Biroq ixbt.com maʼlumotiga koʻra, ukrainalik dasturchi Slava S (slvDev) barcha qoliplarni buzib, lokal til modelini narxi atigi 10 dollar atrofida boʻlgan oʻta arzon mikrokontrollerda muvaffaqiyatli ishga tushirdi. Bu haqda Ixbt.com xabar beradi.

ESP32-AI deb nomlangan ushbu loyiha doirasida butun jarayon internetga ulanmasdan va bulutli xizmatlardan foydalanmasdan, toʻgʻridan-toʻgʻri ESP32-S3 mikrokontrollerida amalga oshirildi. Mazkur yutuq kelgusida sunʼiy intellekt imkoniyatlarini hatto eng oddiy maishiy texnika va oʻrnatilgan tizimlarga ham olib kirish mumkinligini koʻrsatib berdi.

Resurslar cheklangan sharoitdagi texnik yechim

Dastlabki qarashda bu vazifa deyarli imkonsizdek tuyulishi aniq edi. Gap shundaki, ESP32-S3 atigi 512 KB ichki tezkor xotira (SRAM), 8 MB PSRAM va 16 MB флеш-память bilan jihozlangan. Odatda bunday cheklangan resurslar hatto eng ixcham til modellari uchun ham yetarli emas deb hisoblanadi.

Ushbu jiddiy cheklovni chetlab oʻtish uchun dasturchi Google Gemma oilasidagi modellarda qoʻllaniladigan Per-Layer Embeddings meʼmoriy yondashuvidan foydalandi. Modelni 4 bitgacha kvantlash jarayonidan oʻtkazilgach, uning hajmini 14,9 MB gacha qisqartirishga erishildi.

Lokal intellektning kelajagi va istiqbollari

Taxminan 25 million parametrni oʻz ichiga olgan eng hajmli jadval флеш-памятьga joylashtirildi, SRAM xotirasi esa faqatgina hisob-kitoblar uchun ishlatildi. Natijada tezkor xotiraga qoʻyiladigan talablar keskin kamaytirildi va tizim barqaror ishlashi taʼminlandi.

Loyihada qoʻllanilgan model 28,9 million parametrni oʻz ichiga olib, TinyStories maʼlumotlar bazasida oʻqitilgan. U faqat qisqa badiiy matnlarni generatsiya qilishga qodir boʻlib, muloqot qilish, kod yozish yoki faktlarni izlashga moʻljallanmagan. Shu bois loyiha yirik til modellarining toʻlaqonli oʻrnini bosishdan koʻra, zamonaviy meʼmorlik imkoniyatlarini yaqqol namoyish etadi.

Muallifning fikricha, bunday yondashuv maʼlumotlarni lokal tarzda qayta ishlash muhim boʻlgan avtonom qurilmalar uchun juda qoʻl keladi. Xususan, maishiy texnika, sanoat kontrollerlari va turli oʻrnatilgan tizimlar doimiy internet aloqasiga muhtoj boʻlmagan holda sunʼiy intellektdan foydalanishi mumkin boʻladi.