Von Nvidia geführte OSAA-Allianz präsentiert erste Ergebnisse zur KI-Sicherheit

Die unter der Führung von Nvidia gegründete Industriegruppe Open Secure AI Alliance (OSAA) hat in nur einer Woche erhebliche Fortschritte erzielt und mehr als 120 Unternehmen vereint. Laut ixbt.com wurde innerhalb der neuen Allianz eine spezielle Arbeitsgruppe namens Shared AI Findings Exchange (SAFE) gegründet, deren erste Vorschläge nun diskutiert werden. Techcrunch.com berichtet .

Die Initiative wurde im Rahmen der renommierten Cybersicherheitskonferenz Black Hat in Las Vegas angekündigt. Auch wenn die vorgeschlagenen Leitlinien und Regeln nicht völlig revolutionär sind, umfassen sie Mechanismen zur vertraulichen Meldung von Sicherheitsvorfällen im Bereich künstlicher Intelligenz, zur Benachrichtigung Betroffener sowie für vorurteilsfreie Analysen, um aus Fehlern zu lernen.

Open-Source-Technologien und Beiträge führender Unternehmen

Die Teilnehmer der Allianz stellen Komponenten ihrer Open-Source-Technologien in eine gemeinsame Datenbank ein und bauen diese aktiv aus. Künftig könnten diese Bemühungen zu einem einheitlichen Open-Source-Tool werden, mit dem Unternehmen ihre KI-Agenten schützen oder sich gegen bösartige Angriffe verteidigen können. So wurde beispielsweise die zur Gruppe gehörende Plattform Hugging Face zuvor durch ein KI-Modell infiltriert.

Heute gehören einige der weltweit größten Technologiemarken und Unternehmen zu OSAA:

• Nvidia — mit einer Familie offener Modelle und Garak, einem Tool zum Scannen von LLM-Schwachstellen;
• Okta — arbeitet an Technologien zur Identitätsverwaltung von Agenten;
• Red Hat — entwickelt den Bereich Agenten-Governance weiter;
• Amazon — stellte das offene Tool Strands Agents zur Erstellung von Agenten sowie die Autorisierungssprache Cedar bereit.

Bekannte Teilnehmer und auffällige Abwesenheiten

Auch Giganten wie Adobe, BlackRock, Cisco, Intel, Microsoft und Visa sind der Allianz beigetreten. Allerdings fällt auf, dass Unternehmen wie Anthropic, OpenAI und Google derzeit nicht in der Gruppe vertreten sind. Interessanterweise hatten OpenAI und Google zuvor einen offenen Brief unterzeichnet, in dem das Weiße Haus aufgefordert wurde, Open-Source-Initiativen im Bereich künstlicher Intelligenz zu unterstützen.

Der von Nvidia initiierte und von mehr als 200 Technologieunternehmen unterzeichnete Brief entstand zu einer Zeit, als in den USA über ein mögliches Verbot chinesischer Open-Weight-Modelle diskutiert wurde. Branchenexperten zufolge ist das schnelle Handeln solcher Schwergewichte der beste Weg, das amerikanische Open-Source-KI-Ökosystem vor externen Bedrohungen zu schützen.