Während KI-Modelle immer beliebter werden, konkurrieren Startups bei der Entwicklung von Software-Layern, die auf diesen Modellen aufbauen. Eines der neuen Projekte in diesem Bereich ist Osaurus, ein Open-Source-LLM-Server für Apple-Geräte. Er ermöglicht es Benutzern, frei zwischen lokalen oder Cloud-basierten KI-Modellen zu wechseln und Dateien sowie Tools sicher auf ihrem Gerät zu speichern. Dies berichtet Techcrunch.com berichtet .
Das Osaurus-Projekt wurde von dem Ingenieur Terence Pae entwickelt, der zuvor bei Tesla und Netflix tätig war. Ihm zufolge begann die Idee mit der Entwicklung eines lokalen KI-Assistenten, der mit persönlichen Dateien, Browserdaten und Systemeinstellungen des Benutzers arbeiten kann. Derzeit kann Osaurus flexibel sowohl mit Cloud-Anbietern wie OpenAI und Anthropic als auch mit lokal installierten Modellen arbeiten.
Der Hauptvorteil dieses Systems besteht darin, dass Benutzer das für ihre Bedürfnisse passende KI-Modell auswählen und über eine einheitliche Schnittstelle verwalten können. Im Gegensatz zu anderen Tools wie OpenClaw oder Hermes bietet Osaurus eine benutzerfreundliche Oberfläche. Zudem werden zur Gewährleistung der Sicherheit alle Prozesse in einer virtuellen Sandbox-Umgebung ausgeführt.
Es ist zu beachten, dass das Ausführen von KI-Modellen auf einem lokalen Computer erhebliche Ressourcen erfordert. Für einen stabilen Betrieb des Systems sind mindestens 64 GB Arbeitsspeicher (RAM) erforderlich. Für den Betrieb größerer Modelle wie DeepSeek v4 empfiehlt Terence Pae Systeme mit 128 GB RAM.
Lesen Sie „Zamin“ auf Telegram!
