KI-Revolution: VKAE-System steigert GPU-Leistung um das bis zu 23-fache

Während im Bereich der künstlichen Intelligenz (AI) ein Wettlauf um Rechenressourcen tobt, verlagert sich der Fokus von der Entwicklung neuer Modelle hin zur Steigerung der Effizienz bestehender Infrastrukturen. Das von Vidraft vorgestellte VKAE-Inferenzbeschleunigungssystem hat in dieser Richtung einen gewaltigen Sprung gemacht. Laut den Entwicklern ermöglicht die neue Technologie, die Leistung bestehender GPU (Grafikprozessoren) in bestimmten Szenarien um das bis zu 23-fache zu steigern, ohne die Hardware zu ändern. Dies berichtete Ixbt.com Nachrichten bietet.

Das Interesse an dieser Technologie ist mit der Ökonomie moderner AI-Dienste verknüpft. Während das Training eines großen Sprachmodells nur einmal erfolgt, läuft der Inferenzprozess — die Phase der Antwortgenerierung auf Benutzeranfragen — kontinuierlich ab. Genau diese Inferenzkosten bestimmen die primären Betriebskosten von Cloud-Diensten und unternehmensweiten AI-Plattformen. Das VKAE-System fungiert als eine Art "Software-Erweiterung" für bestehende Beschleuniger.

Optimierung der nächsten Generation

Während sich Chiphersteller auf die Entwicklung neuer GPU-Generationen konzentrieren, streben Systeme wie VKAE danach, die vorhandenen Möglichkeiten durch die Optimierung von Low-Level-Software maximal auszuschöpfen. Dieser Prozess umfasst die Neugestaltung von Rechenkernen und Mechanismen zur Aufgabenplanung. Laut ixbt.com wurden Tests auf dem NVIDIA B200 Grafikbeschleuniger durchgeführt, und die Ergebnisse waren höher als erwartet.

In den Tests wurde bei mehreren Modellen eine im Vergleich zu Basissystemen um ein Vielfaches höhere Geschwindigkeit verzeichnet. Besonders wichtig ist, dass die Entwickler betonen, dass bei den Messungen keine Verschlechterung der Antwortqualität oder der Modellgenauigkeit beobachtet wurde. Dies ermöglicht eine drastische Kostensenkung bei gleichbleibender Zuverlässigkeit der AI-Systeme.

Eines der erstaunlichsten Ergebnisse wurde bei der Demonstration des Modells Qwen3.5-35B-A3B erzielt. Unter hoher paralleler Last zeigte das System eine Generierungsleistung von über 10.000 Token (Texteinheiten) pro Sekunde. In realen Szenarien mit unterschiedlichen Anfragen lag dieser Wert jedoch bei etwa 455 Token pro Sekunde. Dies bedeutet, dass die Effizienz direkt von der Art der Last abhängt.

Integration und Offenheit

Die Besonderheiten des VKAE-Systems sind:

• Hoher Durchsatz auf modernen Beschleunigern wie dem NVIDIA B200;
• Vollständige Kompatibilität mit OpenAI API-Schnittstellen;
• Möglichkeit der Integration in bestehende Infrastrukturen fast ohne Änderungen;
• Reproduzierbarkeit und Transparenz der Ergebnisse.

Nach Ansicht der Projektleiter sollte die Möglichkeit zur unabhängigen Überprüfung der Ergebnisse das Hauptkriterium für das Vertrauen in solche Technologien sein. Daher haben die Entwickler einen speziellen Container bereitgestellt, der Modellgewichte und die optimierte Umgebung enthält. Der genaue Funktionsmechanismus des VKAE-Systems wird derzeit noch geheim gehalten, ein detailliertes wissenschaftliches Paper zur Technologie wird jedoch in Kürze erwartet.

Für Regionen wie Usbekistan, in denen AI-Technologien erst noch berkembang, sind solche Lösungen sehr wichtig. Dies ermöglicht den Aufbau leistungsstarker AI-Dienste auf Basis der vorhandenen technischen Infrastruktur, ohne teure neue Server kaufen zu müssen. Dies wiederum senkt die technologischen Hürden für lokale Startups und IT-Unternehmen.