Yapay zeka modelleri popüler hale geldikçe, girişimler bunların üzerine inşa edilecek yazılım katmanları oluşturmak için yarışıyor. Bu alandaki yeni projelerden biri, Apple cihazları için tasarlanmış açık kaynaklı bir LLM sunucusu olan Osaurus'tur. Kullanıcıların yerel veya bulut tabanlı yapay zeka modelleri arasında özgürce geçiş yapmasına ve dosyaları ile araçları cihazlarında güvenli bir şekilde saklamasına olanak tanır. Bu konuda Techcrunch.com haber veriyor.
Osaurus projesi, daha önce Tesla ve Netflix'te çalışmış mühendis Terence Pae tarafından geliştirilmiştir. Pae'ye göre fikir, kullanıcının kişisel dosyaları, tarayıcı verileri ve sistem ayarlarıyla çalışabilen yerel bir yapay zeka asistanı oluşturma düşüncesiyle başladı. Şu anda Osaurus, hem OpenAI ve Anthropic gibi bulut sağlayıcılarıyla hem de yerel olarak yüklenen modellerle esnek bir şekilde çalışabiliyor.
Bu sistemin temel avantajı, kullanıcıların ihtiyaçlarına uygun yapay zeka modelini seçebilmeleri ve bunları tek bir arayüz üzerinden yönetebilmeleridir. OpenClaw veya Hermes gibi diğer araçlardan farklı olarak Osaurus, sıradan kullanıcılar için kullanıcı dostu bir arayüz sunar. Ayrıca, güvenliği sağlamak amacıyla tüm işlemler sanal bir sandbox ortamında gerçekleştirilir.
Yapay zeka modellerini yerel bir bilgisayarda çalıştırmanın büyük kaynak gerektirdiğini belirtmek gerekir. Sistemin kararlı çalışması için en az 64 GB RAM gereklidir. DeepSeek v4 gibi daha büyük modelleri çalıştırmak için ise Terence Pae, 128 GB RAM'e sahip sistemlerin kullanılmasını tavsiye ediyor.
“Zamin”i Telegram'da okuyun!
