OpenAI senkt KI-Kosten ohne neue Chips um mehr als die Hälfte

Ingenieure von OpenAI, dem Marktführer für KI-Technologien, haben einen Weg gefunden, die Betriebskosten des Systems drastisch zu senken, ohne neue Hardware zu kaufen. Laut The Information ist es dem Unternehmen gelungen, die für die Verarbeitung von ChatGPT-Nutzeranfragen benötigte Rechenleistung um mehr als das Zweifache zu reduzieren. Dieser Erfolg bedeutet nicht nur finanzielle Einsparungen, sondern auch einen strategischen Vorteil angesichts des globalen Mangels an Rechenressourcen. Dies berichtet Ixbt.com Nachrichten berichtet.

Es geht um die Optimierung der Inferenz (Inference) – den Prozess, bei dem ein trainiertes Modell direkt auf Nutzeranfragen antwortet. Für Unternehmen, die generative KI entwickeln, stellt die Inferenz derzeit den größten Kostenfaktor dar. Während das Training eines Modells in einem bestimmten Zeitraum erfolgt, erfordert die Kommunikation mit Nutzern für jede Anfrage separate Ressourcen.

Strategie zur rationalen Ressourcennutzung

Quellen zufolge richtet sich das neue Optimierungssystem von OpenAI an die Nutzergruppe, die ChatGPT ohne Registrierung oder im kostenlosen Paket nutzt. Infolgedessen hat sich die Anzahl der benötigten NVIDIA GPUs zur Bedienung dieser Nutzer in einem bestimmten Zeitraum um mehrere Hundert verringert. Für einen Service in diesem globalen Maßstab ist dieser Wert unerwartet niedrig.

Bisher hat OpenAI nicht offiziell offengelegt, mit welchen technologischen Methoden dieses Ergebnis erzielt wurde. Experten vermuten, dass diese Effizienz nicht durch die Installation zusätzlicher Hardware, sondern durch die rationale Nutzung der bestehenden Server-Infrastruktur, eine verbesserte Speicherverwaltung oder optimierte Batch-Processing-Algorithmen erreicht wurde.

Diese Nachricht könnte das wirtschaftliche Gleichgewicht auf dem KI-Markt verändern. In einer Zeit, in der Wartelisten für NVIDIA-Chips entstehen und Milliarden von Dollar in den Bau von Rechenzentren fließen, ist die Kostensenkung durch Software der effektivste Weg. Dies ermöglicht es OpenAI, seine Dienste einer noch breiteren Zielgruppe anzubieten.

Zukünftige strategische Möglichkeiten

Wenn diese Technologie in großem Maßstab eingesetzt wird, ergeben sich für OpenAI folgende Möglichkeiten:

• Erweiterung des kostenlosen Serviceangebots;
• Senkung der Tarife für Unternehmenskunden;
• Steigerung der Rechenleistung von AI-Agenten ohne zusätzliche Kosten;
• Bedienung von mehr Nutzern mit der bestehenden Infrastruktur.

Es ist derzeit unklar, ob diese Optimierung auch für zahlende Abonnenten oder die komplexesten Reasoning Models des Unternehmens gilt. Solche Durchbrüche in der Softwareoptimierung beweisen jedoch, dass im KI-Wettlauf nicht nur die Anzahl der Chips, sondern auch die Effizienz ihrer Nutzung eine entscheidende Rolle spielt.

Für Entwicklungsmärkte wie Usbekistan sind solche Neuigkeiten ebenfalls von großer Bedeutung. Denn die Senkung der Rechenkosten wird dazu beitragen, dass ChatGPT und ähnliche Technologien in Zukunft noch günstiger und zugänglicher werden.