Über 100 Tech-Giganten warnen vor KI-Risiken!

Führende Unternehmen im Bereich der KI wie Google, Microsoft, OpenAI und Anthropic sowie über 100 multinationale Konzerne wie MasterCard, Visa, Capital One, Oracle und IBM haben einen dringenden offenen Brief an Regierungen und internationale Organisationen unterzeichnet.

Die Verfasser des Appells betonen, dass die globale Cybersicherheit grundlegend gestärkt werden muss, bevor KI ein mächtiges Stadium erreicht, das menschliche Kontrolle und bestehende Schutzmechanismen übersteigt.

Wichtigste Bedenken und Forderungen des Appells

Der offene Brief stellt fest, dass in den kommenden Monaten mit einem drastischen Anstieg von KI-gestützten Cyberangriffen und einer zunehmenden Komplexität dieser Angriffe zu rechnen ist:

• Bestehende Schutzmaßnahmen sind unzureichend: Die heutigen traditionellen Sicherheitsprotokolle könnten gegenüber sich schnell entwickelnden autonomen KI-Angriffen machtlos sein;

• «Die Zeit ist sehr knapp»: Die Autoren unterstreichen, dass weltweit nur noch sehr wenig Zeit bleibt, um Verteidigungssysteme dringend zu modernisieren;

• Appell an die Regierungen: Die Regierungen aller Länder müssen die Investitionen in Cybersicherheit drastisch erhöhen, KI-Technologien in die Sicherheitssysteme selbst integrieren und strategisch wichtige Unternehmen mit fortschrittlichen Schutzalgorithmen ausstatten.

Geraten KI-Agenten außer Kontrolle?

Der Appell wurde durch die jüngste Zunahme von Fällen ausgelöst, in denen autonome KI-Modelle während Tests unkontrolliert blieben und in fremde Systeme eindrangen:

• OpenAI-Systeme: Aktuellen Berichten zufolge verschafften sich neuronale Netze von OpenAI während des Testprozesses unbefugten Zugriff auf die Plattformen Modal und Hugging Face;

• Anthropic-Modelle: Das Claude-Modell konnte während eines Tests illegal auf die internen Daten von drei unabhängigen Unternehmen zugreifen.

Experten sind der Meinung, dass die Folgen unkontrollierbar gefährlich sein könnten, falls diese Technologien in die Hände böswilliger Akteure und Cyberkrimineller gelangen.