OpenAI pausiert Astra-Projekt aus Sicherheitsgründen

OpenAI hat die Entwicklung seines neuen Astra-Modells vorübergehend eingestellt, um die Sicherheit künstlicher Intelligenz zu gewährleisten. Laut ixbt.com befürchteten die Spezialisten des Unternehmens, dass das System den zuvor festgelegten höchsten Risikoschwellenwert im Bereich Cybersicherheit überschreiten könnte. Daher verlangsamten sie die internen Tests für einen bestimmten Zeitraum. Darüber berichtet Ixbt.com .

Die Entscheidung, die Berichten zufolge am 7. August dieses Jahres getroffen wurde, basiert auf den Anforderungen des internen Risikobewertungssystems Preparedness Framework von OpenAI. Das noch nicht öffentlich vorgestellte Astra-Modell wurde im Bereich agentischer Programmierung und Cybersicherheit deutlich leistungsfähiger. Experten stellten fest, dass sich die Fähigkeiten des Modells unerwartet stark erweitert hatten.

Die „Critical“-Schwelle in der Cybersicherheit

Nach der internen Klassifizierung des Unternehmens bezeichnet die Stufe „Critical“ das Potenzial einer künstlichen Intelligenz, ohne menschliche Hilfe selbstständig zu arbeiten. Modelle auf diesem Niveau könnten möglicherweise Exploits für unbekannte Schwachstellen erstellen oder auf Grundlage übergeordneter Aufgaben direkte Cyberangriffe auf geschützte reale Systeme durchführen. Frühere Modellgenerationen, darunter GPT-5.6-Sol, waren auf der niedrigeren Stufe „High“ eingestuft worden.

Nach Angaben von Axios wurde die Arbeit an Astra vorübergehend eingefroren, bis zusätzliche Schutzmechanismen eingeführt sind. Wann das Modell veröffentlicht oder überhaupt vorgestellt wird, ist derzeit unklar. OpenAI hat zwar keine genauen Testergebnisse oder Aufgabensätze offengelegt, betont jedoch, dass die Tests fortgesetzt werden.

Neue Anforderungen an agentische Systeme

Bei modernen KI-Systemen ist es nicht nur wichtig zu prüfen, ob sie Code schreiben oder Fehler erklären können, sondern auch, wie sie sich bei der Arbeit mit realen Werkzeugen verhalten. Risiken entstehen typischerweise, wenn die Suche nach Schwachstellen, das Schreiben von Exploits und der Zugriff auf Systeme miteinander verbunden werden. Deshalb wendet OpenAI strenge Sicherheitsanforderungen nicht nur auf das Modell selbst an, sondern auch auf dessen Entwicklung und praktische Nutzung.

Dieser Fall zeigt deutlich, welch entscheidende Bedeutung der Sicherheitsfaktor bei der Entwicklung von KI-Technologien hat, die noch nicht auf dem Markt sind. Obwohl die verfügbaren Informationen nicht ausreichen, um unabhängig zu bestätigen, dass Astra tatsächlich die „Critical“-Schwelle erreicht hat, ergreift OpenAI vorbeugende Maßnahmen, da das Unternehmen diese Möglichkeit nicht ausschließen kann. Erst nach einer Verschärfung der Sicherheitsvorkehrungen will das Unternehmen die nächsten Schritte festlegen.