Anthropic-Chef Äußert sich zu Modellen mit Offenen Gewichten in der Künstlichen Intelligenz

Dario Amodei, Mitgründer und CEO von Anthropic, einem der führenden Unternehmen im Bereich der Künstlichen Intelligenz, hat erklärt, dass er ein Verbot von KI-Modellen mit offenen Gewichten nicht unterstützt. Seinen Angaben zufolge hat sich das Unternehmen nie für solche Einschränkungen ausgesprochen, und entsprechende Gerüchte seien unbegründet. Diese Äußerung erfolgt zu einer Zeit, in der zwischen Branchenvertretern und Tech-Giganten heftige Debatten über die Zukunft von Open-Source-Technologien geführt werden. Das berichtet Techcrunch.com. berichtet .

Laut ixbt.com folgte diese Reaktion auf einen offenen Brief, der vom Nvidia-Gründer und CEO Jensen Huang im sozialen Netzwerk X veröffentlicht wurde. In diesem Brief forderten neben Nvidia eine Reihe führender Unternehmen wie Meta, Microsoft, Mistral und Hugging Face die Politik auf, keine überstürzten Einschränkungen für KI-Modelle mit offenen Gewichten zu erlassen. Obwohl China in jenem Brief nicht direkt genannt wurde, drehen sich die Hauptdebatten um Vorwürfe, chinesische Labore würden ihre Fähigkeiten durch Diebstahl geistigen Eigentums ausweiten.

Chinas Risiken im Bereich der Künstlichen Intelligenz

In seinem Blogbeitrag ging Dario Amodei gesondert auf die Sicherheitsfrage ein und betonte, dass zwischen Modellen mit offenen Gewichten und den von China ausgehenden Bedrohungen unterschieden werden müsse. Er stellte fest, dass offene Gewichtsmodelle ohne gefährliche Fähigkeiten für die Gesellschaft nützlich seien und Forschern sowie Entwicklern großen Nutzen bringen. Seine Hauptsorge gilt jedoch den Bestrebungen autoritärer Regierungen, insbesondere der Kommunistischen Partei Chinas, noch leistungsfähigere Systeme als die der USA zu schaffen, um eine dauerhafte militärische Überlegenheit zu erlangen.

Der Anthropic-Chef äußerte zudem Besorgnis über die Zunahme biologischer Angriffe und Cybersecurity-Bedrohungen. Seiner Ansicht nach sind Modelle mit offenen Gewichten in solchen Szenarien gefährlicher, da es äußerst schwierig ist, ihre Nutzung zu kontrollieren oder Beschränkungen für sie festzulegen. Unter Bezugnahme auf einen Bericht des britischen Instituts für KI-Sicherheit erinnerte er daran, dass einmal verbreitete Codes mit offenen Gewichten nicht mehr zurückgerufen werden können.

Experten und Zukünftige Maßnahmen

Open-Source-Befürworter argumentieren, dass der Zugang zu leistungsstarken Modellen frei von zentraler Kontrolle ist und Verteidigern hilft, die Sicherheit zu gewährleisten. Amodei schlug demgegenüber jedoch konkrete Maßnahmen vor, um Chinas Dominanz im KI-Bereich zu bekämpfen. Meiner Ansicht nach ist es notwendig, Chinas Zugang zu leistungsstarken Chips einzuschränken und offizielle Maßnahmen gegen Destillationsprozesse zu ergreifen, um den Diebstahl geistigen Eigentums zu verhindern.

Zur Information: Die US-Regierung hat gewarnt, dass sie Sanktionen gegen China verhängen könnte, falls der Diebstahl geistigen Eigentums amerikanischer Unternehmen nachgewiesen wird. Daher bleibt die Frage der Wahrung des Gleichgewichts zwischen Innovationsfreiheit und nationaler Sicherheit heute im Zentrum der Diskussionen auf dem Technologiemarkt.