Sicherheitslücke in ChatGPT: KI erstellt unerwartete Inhalte

In einer Zeit der rasanten Entwicklung der KI-Technologien wurden ernsthafte Mängel im Sicherheitssystem des weltweit bekanntesten Chatbots, ChatGPT, festgestellt. BBC-Forscher und Cybersicherheitsexperten haben bewiesen, dass die neueste Version des Systems Benutzeranfragen falsch interpretieren und extrem erschreckende sowie unmoralische Bilder erstellen kann. Diese Situation wirft Fragen über die ethischen Grenzen der KI und die Stabilität der Inhaltskontrolle auf. Dies berichtet Ixbt.com berichtet sagt.

Experten des britischen Startups Mindgard haben den Bildgenerator DALL-E 3 im ChatGPT-System getestet. Es stellte sich heraus, dass das System durch geringfügige Änderungen an einfachen und scheinbar humorvollen Prompts in die Irre geführt werden kann. Infolgedessen lieferte das neuronale Netzwerk Gewaltszenen und explizite Inhalte. Obwohl solche Fälle absolut gegen die Nutzungsbedingungen von OpenAI verstoßen, können die Systemfilter dies nicht immer verhindern.

Sicherheitsmaßnahmen und Systemlücken

Vertreter von OpenAI gaben eine offizielle Erklärung zu diesem Problem ab und teilten mit, dass die Sicherheitsmaßnahmen verstärkt wurden. Laut dem Unternehmen wurden nach dem Bericht der BBC zusätzliche Schutzschichten gegen solche Anfragen eingeführt. "Wir haben diesen Trend untersucht und einen mehrstufigen Schutz aktiviert, der verhindert, dass Benutzer regelwidrige Inhalte erstellen", heißt es in der Erklärung des Unternehmens.

Der Gründer von Mindgard, Peter Garrahan, betonte jedoch, dass die Möglichkeit, das System zu umgehen, auch nach der Verstärkung der Sicherheitsmaßnahmen bestehen bleibt. Den Forschern gelang es, durch einige weitere kleine Änderungen an den Prompts erneut besorgniserregende Inhalte zu erhalten. Dies zeigt, dass KI-Algorithmen immer noch anfällig für menschliche Tricks sind.

Der besorgniserregendste Aspekt ist, dass ChatGPT in einigen Fällen aus eigenem "Willen" ernsthafte und erschreckende Bilder erstellt hat, selbst wenn kein expliziter Befehl gegeben wurde. Laut Garrahan waren einige vom System erstellte Bilder extrem grausam und von sexueller Natur, selbst ohne Angabe eines Themas. Experten führen dies auf unkontrollierte Schichten in den Trainingsdaten der KI zurück.

Warnung für Nutzer in Usbekistan

Derzeit werden ChatGPT und ähnliche KI-Tools auch in Usbekistan in großem Umfang für Bildung, Arbeit und kreative Zwecke genutzt. Die Ergebnisse dieser Forschung zeigen die Notwendigkeit auf, die Nutzung dieser Technologie, insbesondere durch Minderjährige, zu überwachen. Es sollte beachtet werden, dass neuronale Netze nicht immer das erwartete Ergebnis liefern und manchmal Informationen ausgeben können, die sich negativ auf die Psyche auswirken.

Experten fordern große Konzerne wie OpenAI auf, ihre Produkte vor der Veröffentlichung an die Öffentlichkeit strengeren Tests zu unterziehen. Egal wie sehr die Tech-Giganten es versuchen, die vollständige "Regulierung" der KI bleibt eine komplexe Aufgabe. Dies erfordert digitale Kompetenz und Vorsicht von den Nutzern.