Google DeepMind-Chef schlägt unabhängige Aufsichtsbehörde für KI vor

Der CEO von Google DeepMind, Demis Hassabis, hat die Gründung einer neuen internationalen Standardisierungsbehörde vorgeschlagen, um die fortschrittlichsten KI-Modelle zu regulieren und deren Sicherheit zu gewährleisten. Dieser Vorschlag sorgt in der Tech-Welt für Aufsehen, da er darauf abzielt, die KI-Entwicklung nicht zu begrenzen, sondern verantwortungsvoll zu steuern. Dies berichtet Techcrunch.com berichtet .

In einem Artikel mit dem Titel „A Foundation for Frontier AI and the Beginning of a New Era“, den er auf seinem X-Account veröffentlichte, schlug Hassabis die Einführung eines Systems vor, das dem Modell der FINRA (Financial Industry Regulatory Authority) im US-Finanzsystem ähnelt. Seiner Meinung nach sollte eine solche Behörde neue Modelle vor der Markteinführung testen und Best Practices für deren Veröffentlichung entwickeln.

Wie würde der neue Kontrollmechanismus funktionieren?

Dem vorgeschlagenen System zufolge würden führende Labore wie Google, OpenAI und Anthropic ihre leistungsstärksten Modelle 30 Tage vor der öffentlichen Veröffentlichung freiwillig dieser Standardisierungsbehörde zur Prüfung vorlegen. Sollte sich das Bewertungsprotokoll als wirksam erweisen, könnte dieser Prozess in Zukunft obligatorisch werden und zu einer Grundvoraussetzung für die Bereitstellung von KI-Modellen auf dem US-Markt werden.

Hassabis betont, dass diese Behörde nicht nur bei Vorabprüfungen mit den Laboren zusammenarbeiten würde, sondern auch bei der Behebung kritischer Schwachstellen, die nach der Inbetriebnahme der Modelle festgestellt werden. Dies ist ein weitaus umfassenderer Ansatz als die Ad-hoc-Prüfungen, die derzeit von der US-Regierung bei Modellen von Anthropic und OpenAI durchgeführt werden.

Laut ixbt.com stehen die aktuellen staatlichen Prüfungen aufgrund mangelnder technischer Expertise und mangelnder Transparenz im Entscheidungsprozess stark in der Kritik. Die neu vorgeschlagene Organisation würde zwar von der Regierung unterstützt, aber direkt von der KI-Industrie finanziert und unabhängig agieren.

Gleichgewicht zwischen Industrie und Regierung

Die Frage der Regulierung des KI-Sektors bleibt ein umstrittenes Thema zwischen Technologiegiganten und der neuen US-Regierung. Kürzlich erklärte Sriram Krishnan, KI-Berater des Weißen Hauses, dass innerhalb der Exekutive keine separate KI-Aufsichtsbehörde (wie etwa die FDA) geschaffen werde. Das von Hassabis vorgeschlagene Modell einer Selbstregulierungsorganisation könnte mit diesen politischen Ansichten vereinbar sein.

Demis Hassabis stellt sich vor, dass folgende Experten in dieser Behörde tätig sein sollten:

• Vertreter von Open-Source-Software;
• Hochqualifizierte technische Experten aus der Industrie;
• Unabhängige Gruppen, die auf KI-Sicherheit spezialisiert sind.

„Die Stärke dieses Ansatzes liegt darin, dass er technisch fundiert ist, Innovationen unterstützt und verantwortungsvolles Handeln fördert“, schreibt der DeepMind-Chef. Ihm zufolge ist das System anpassungsfähig an schnelle Veränderungen in der Branche und ermöglicht es, Kontrollmaßnahmen zu verschärfen, wenn das Risikoniveau steigt.

Sollte diese Initiative umgesetzt werden, könnte sie zum ersten echten und effektiven globalen Standard für KI-Sicherheit werden. Dies würde die Zuverlässigkeit von KI-Systemen nicht nur für Technologieunternehmen, sondern auch für normale Nutzer garantieren.