Arcee: Chinesische offene KI-Modelle stellen keine Sicherheitsbedrohung dar

Experten des US-Labors Arcee halten die Bedenken hinsichtlich der Sicherheit von in China entwickelten Open-Source-KI-Modellen für unbegründet. In letzter Zeit haben Modelle von chinesischen Unternehmen wie Moonshot AI und Alibaba aufgrund ihrer Effizienz und Kosteneffizienz auf dem Weltmarkt an Popularität gewonnen, was unter westlichen Tech-Giganten zu verschiedenen Diskussionen geführt hat. Dies berichtet Techcrunch.com berichtet .

Während die US-Regierung derzeit ein Verbot von Produkten chinesischer Entwickler prüft, sind Ersteller geschlossener Modelle wie OpenAI und Anthropic besorgt über den Wettbewerb. Insbesondere Modelle wie Kimi K3 und Qwen zeichnen sich durch deutlich günstigere Datenverarbeitungsdienste aus. Dies könnte sich spürbar auf die Gewinnmargen großer Konzerne auswirken.

Laut Lucas Atkins, CTO von Arcee, sind die Open-Weight-Modelle der Chinesen nicht gefährlicher als jede andere Open-Source-Software. Atkins betont, dass Unternehmen, die diese Modelle nutzen, keine Angst vor Angriffen chinesischer Hacker haben müssen, da sich das Funktionsprinzip neuronaler Netze von herkömmlicher Software unterscheidet.

Technische Sicherheit und Kontrollmöglichkeiten

Viele verstehen diese Modelle als bösartigen Code, aber der Prozess des KI-Trainings verläuft völlig anders. Arcee-Experten erklären, dass, wenn ein Unternehmen ein Modell herunterlädt und auf eigenen privaten Servern (Rechenzentren) betreibt, der Ersteller des Modells (z. B. Alibaba) keinen Zugriff auf diese Umgebung hat und keine Daten stehlen kann.

Der Betriebscode von Open-Weight-Modellen, die auf Plattformen wie Hugging Face gehostet werden, ist transparent und überprüfbar. Obwohl die für das Training verwendeten Methoden und Datensätze geheim gehalten werden, können Experten den auf dem Server laufenden Teil vollständig kontrollieren. Dies ermöglicht die eigenständige Umsetzung von Sicherheitsmaßnahmen.

Große Organisationen sollten jedes Modell vor der Implementierung Sicherheitstests unterziehen und es auf Aspekte wie Bias und Halluzinationen prüfen. Zudem kann die Zuverlässigkeit der Modelle durch ein Post-Training zur Anpassung an spezifische Bedürfnisse weiter erhöht werden.

Interessanterweise bietet Arcee eigentlich US-amerikanische Produkte als Alternative zu chinesischen Modellen an. Dennoch vermeiden sie unbegründete Anschuldigungen gegen Wettbewerber und zeigen sich als Befürworter technologischer Offenheit. Ein solcher Ansatz dient der Förderung eines gesunden Wettbewerbs und der Innovation auf dem globalen KI-Markt.