В то время как модели искусственного интеллекта становятся все более популярными, стартапы соревнуются в создании программных уровней поверх них. Одним из новых проектов в этой области является Osaurus — сервер LLM с открытым исходным кодом, предназначенный для устройств Apple. Он позволяет пользователям свободно переключаться между локальными или облачными моделями ИИ, а также безопасно хранить файлы и инструменты на своем устройстве. Об этом сообщает Techcrunch.com сообщает .
Проект Osaurus был разработан инженером Теренсом Пэ, ранее работавшим в Tesla и Netflix. По его словам, идея началась с создания локального ИИ-помощника, способного работать с личными файлами пользователя, данными браузера и системными настройками. В настоящее время Osaurus может гибко работать как с облачными провайдерами, такими как OpenAI и Anthropic, так и с локально установленными моделями.
Главное преимущество этой системы заключается в том, что пользователи могут выбирать модель ИИ, соответствующую их потребностям, и управлять ими через единый интерфейс. В отличие от других инструментов, таких как OpenClaw или Hermes, Osaurus предлагает удобный интерфейс для обычных пользователей. Кроме того, для обеспечения безопасности все процессы выполняются в виртуальной среде sandbox.
Стоит отметить, что запуск моделей ИИ на локальном компьютере требует значительных ресурсов. Для стабильной работы системы требуется не менее 64 ГБ оперативной памяти (RAM). Для запуска более крупных моделей, таких как DeepSeek v4, Теренс Пэ рекомендует использовать системы с 128 ГБ RAM.
Читайте «Zamin» в Telegram!
