Жасанды интеллект модельдері танымал бола бастаған тұста, стартаптар олардың үстіне орнатылатын бағдарламалық қабаттарды жасау бойынша бәсекелесуде. Осы саладағы жаңа жобалардың бірі — Apple құрылғыларына арналған ашық кодты LLM сервері Osaurus. Ол пайдаланушыларға жергілікті немесе бұлтты жасанды интеллект модельдері арасында еркін ауысуға, сондай-ақ файлдар мен құралдарды өз құрылғысында қауіпсіз сақтауға мүмкіндік береді. Бұл туралы Techcrunch.com хабарлайды .
Osaurus жобасын бұрын Tesla және Netflix компанияларында жұмыс істеген инженер Теренс Пэ әзірлеген. Оның айтуынша, идея пайдаланушының жеке файлдарымен, браузер деректерімен және жүйелік параметрлерімен жұмыс істей алатын жергілікті жасанды интеллект көмекшісін жасаудан басталды. Қазіргі уақытта Osaurus OpenAI және Anthropic сияқты бұлтты провайдерлермен де, жергілікті орнатылған модельдермен де икемді түрде жұмыс істей алады.
Бұл жүйенің басты артықшылығы — пайдаланушылар өз қажеттіліктеріне сай жасанды интеллект моделін таңдап, оларды бірыңғай интерфейс арқылы басқара алады. OpenClaw немесе Hermes сияқты басқа құралдардан айырмашылығы, Osaurus қарапайым пайдаланушылар үшін ыңғайлы интерфейсті ұсынады. Сонымен қатар, қауіпсіздікті қамтамасыз ету мақсатында барлық процестер виртуалды sandbox ортасында жүзеге асырылады.
Жасанды интеллект модельдерін жергілікті компьютерде іске қосу үлкен ресурсты қажет ететінін атап өткен жөн. Жүйенің тұрақты жұмыс істеуі үшін кемінде 64 ГБ жедел жады (RAM) талап етіледі. DeepSeek v4 сияқты ірі модельдерді іске қосу үшін Теренс Пэ 128 ГБ RAM-ы бар жүйелерді пайдалануды ұсынады.
“Zamin”-ді Telegram-нан оқыңыз!
