KI-Beschränkungen behindern die Arbeit von Cybersicherheitsexperten

Mit der Entwicklung von KI-Technologien führen große Technologiekonzerne strenge Schutzmechanismen (Guardrails) ein, um den Missbrauch ihrer Modelle für böswillige Zwecke zu verhindern. Diese Barrieren, die eigentlich Cyberangriffe abwehren sollen, stellen jedoch mittlerweile nicht nur für Cyberkriminelle, sondern auch für legitime Forscher und Sicherheitsingenieure, die Systeme schützen, ein ernstes Problem dar. Dies berichtet Techcrunch.com berichtet.

In den letzten Monaten haben führende Unternehmen wie OpenAI und Anthropic spezielle Prüfprogramme gestartet, um ihre Modelle sicher zu halten. Beispielsweise wurden die Modelle Mythos und Fable von Anthropic aufgrund von Bedenken, sie könnten für Cyberangriffe genutzt werden, von der US-Regierung unter Exportkontrolle gestellt. Obwohl diese Beschränkungen später teilweise gelockert wurden, betonen Experten aus dem Bereich der Cybersicherheit, dass dieser Ansatz die Verteidigungssysteme schwächt.

Die feine Grenze zwischen Verteidigung und Angriff

Cybersicherheitsforscher müssen oft wie Hacker denken und entsprechende Werkzeuge nutzen, um Schwachstellen in Systemen zu identifizieren und zu schließen. Laut TechCrunch verweigern KI-Modelle oft die Antwort, wenn Experten Anfragen zur Analyse von Code und zur Fehlersuche stellen, da das System dies als "gefährliche Handlung" einstuft.

Chris Anley, Chief Scientist bei der NCC Group, erklärt, dass ein Befehl zur "Korrektur" von Softwarecode sowohl als Anleitung für die Verteidigung als auch für den Angriff dienen kann. "Dasselbe Werkzeug fungiert sowohl als Angriffs- als auch als Verteidigungswaffe, und man kann sie nicht voneinander trennen. Wenn ein KI-Modell die Code-Analyse verweigert, erschwert dies die Arbeit der Verteidiger", so der Experte.

Subjektive Entscheidungen der Unternehmen

Der bekannte Sicherheitsforscher Mark Dowd ist der Meinung, dass die eigenmächtige Festlegung privater Unternehmen, was sicher und was gefährlich ist, die Entwicklung des Fachbereichs negativ beeinflusst. Er betont, dass große Tech-Giganten willkürliche Beschränkungen auferlegen, ohne die komplexen Aspekte der Cybersicherheit zu berücksichtigen.

Derzeit erlauben OpenAI mit seinem Trusted Access for Cyber und Anthropic mit seinem Cyber Verification Program nur speziell geprüften Organisationen den Zugriff auf Modelle mit reduzierten Einschränkungen. Diese Politik der "geschlossenen Türen" schränkt jedoch die Möglichkeiten unabhängiger Forscher ein.

Auch in Usbekistan wird Cybersicherheit zu einem immer dringlicheren Thema. Wenn lokale Experten bei der Nutzung globaler KI-Modelle auf solche Hindernisse stoßen, könnte dies den Schutz der Informationssysteme des Landes verlangsamen. Um modernen Cyberangriffen entgegenzuwirken, müssen Fachleute vollen Zugang zu den fortschrittlichsten intelligenten Werkzeugen haben.