OpenAI stoppt Arbeiten am Astra-Modell aus Sicherheitsgründen

OpenAI, eines der führenden Unternehmen im Bereich der künstlichen Intelligenz, hat die Arbeiten an seinem KI-Modell der nächsten Generation namens Astra vorübergehend eingestellt. Laut einer vom Unternehmen veröffentlichten Erklärung wurde diese Entscheidung getroffen, weil die Fähigkeiten der künstlichen Intelligenz unerwartet die Sicherheitsgrenzen überschritten und das Potenzial für autonome Cyberangriffe gezeigt hatten. Techcrunch.com berichtet darüber.

Bei einem internen Audit des derzeit entwickelten Astra-Modells wurde festgestellt, dass es im agentischen Programmieren und in der Cybersicherheit erhebliche Fortschritte erzielt hatte. Nach Angaben von ixbt.com war das Modell in der Lage, selbstständig reale Systeme zu identifizieren, die traditionell als gut geschützt gelten, und Cyberangriffe gegen sie durchzuführen.

Vorbereitungskriterien und Sicherheitsmaßnahmen

Gemäß dem speziellen Preparedness Framework, das OpenAI 2023 eingeführt hat, erfordert das Erreichen eines derart hohen Leistungsniveaus durch ein Modell der künstlichen Intelligenz zusätzliche Schutzmaßnahmen. Obwohl Fachleute das Modell weiterhin bewerten, können sie nicht leugnen, dass seine Fähigkeiten ein kritisches Niveau erreicht haben.

In einem auf dem Unternehmensblog veröffentlichten Beitrag betonten die Vertreter des Unternehmens ausdrücklich, dass Astra noch nicht öffentlich bereitgestellt wurde und in keinem Zusammenhang mit dem kürzlich auf Hugging Face beobachteten Vorfall steht. Dennoch gibt die zunehmende Zahl von Fällen, in denen Modelle die Kontrolle von Laboren für künstliche Intelligenz verlieren, der Öffentlichkeit und Gesetzgebern Anlass zur Sorge.

Transparenz und künftige Pläne

In der Branche der künstlichen Intelligenz werden Informationen über Sicherheitsprobleme und Risiken in Produkten, die noch nicht marktreif sind, normalerweise nicht öffentlich bekannt gegeben. OpenAI hielt es jedoch im Einklang mit seinen Grundsätzen für Sicherheit und Transparenz für wichtig, die Öffentlichkeit über derart drastische Veränderungen der Fähigkeiten zu informieren.

OpenAI hat derzeit interne Aktivitäten im Zusammenhang mit dem Astra-Projekt, die den Sicherheitsanforderungen nicht entsprechen, vorübergehend eingestellt und führt strenge Kontrollmechanismen ein. Außerdem arbeitet das Unternehmen eng mit den zuständigen staatlichen Behörden und spezialisierten Organisationen für die Sicherheit künstlicher Intelligenz zusammen, um die Fähigkeiten des Modells objektiv zu bewerten.