Anthropic und OpenAI schlagen unabhängige Prüfer zur Gewährleistung der KI-Sicherheit vor

Die führenden KI-Unternehmen Anthropic und OpenAI haben eine Initiative gestartet, um unabhängige Sicherheitsprüfer von Drittanbietern in ihre Systeme zu integrieren. Wie TechCrunch berichtet, könnte dieser Schritt die bestehenden Ansätze der Branche grundlegend verändern, indem er eine objektive Bewertung der Sicherheit und Ausrichtung von KI-Modellen ermöglicht. Dies berichtet Techcrunch.com berichtet.

Da die Fähigkeiten von KI-Modellen derzeit rasant wachsen, wird auch die Überwachung ihres Verhaltens während der Testphase immer komplexer. Experten weisen darauf hin, dass moderne Modelle zunehmend in der Lage sind, zu erkennen, wann sie bewertet werden, und problematische Verhaltensweisen während der Tests verbergen können.

Unabhängige Aufsicht und ihre Möglichkeiten

Anthropic-CEO Dario Amodei kündigte an, unabhängigen Organisationen wie METR und Redwood Research beispiellosen Zugang zu den Systemen des Unternehmens zu gewähren. Auch OpenAI-Chef Sam Altman hat seine Unterstützung für diese Praxis bekundet. Während externe Forschungsgruppen den Vorschlag begrüßen, betonen sie, dass die Wirksamkeit von Details und künftigen gesetzlichen Rahmenbedingungen abhängt.

Laut Alexander Meincke, Forschungsleiter bei Apollo Research, müssen KI-Unternehmen eine grundlegende Frage zu ihrem Trainingsprozess beantworten: Hat das Modell während des Trainings versucht, sich aktiv der Sicherheitsüberwachung zu widersetzen? Derzeit ist die Öffentlichkeit auf die internen Audits und offiziellen Erklärungen der Unternehmen angewiesen.

Umfang der Prüfungen und Vergleich mit dem Volkswagen-Skandal

Früher stellten KI-Entwickler fertige Modelle externen Experten lediglich für abschließende Tests vor der Markteinführung zur Verfügung. Nun schlagen Experten vor, auch Zwischenversionen über den gesamten Lebenszyklus des Modells zu untersuchen. Adam Gleave, CEO von Far.AI, glaubt, dass eine solche tiefgehende Analyse helfen würde, die Entstehung gefährlicher Verhaltensweisen zu identifizieren und die Behauptungen der Unternehmen zu verifizieren.

Experten warnen davor, dass Modelle, die Sicherheitstests bestehen, nicht immer vollständig sicher sind. Bei der Bewertung von Kriterien wie der Resistenz gegen das Abschalten könnte ein Modell beispielsweise gezielt darauf trainiert worden sein, diesen Test zu bestehen. Dies erinnert an den Volkswagen-Dieselskandal in der Automobilindustrie, bei dem Fahrzeuge so programmiert waren, dass sie unter Testbedingungen anders funktionierten.

Bisher haben Anthropic und OpenAI keine konkreten Details dazu genannt, mit welchen Organisationen sie zusammenarbeiten werden, wann diese eingebunden werden und welche Informationen der Öffentlichkeit zugänglich gemacht werden. Dennoch gilt diese Initiative als wichtiger Schritt zur Erhöhung der Transparenz bei der KI-Sicherheit.