ChatGPT erneut in der Kritik: WSJ veröffentlicht kontroversen Bericht

Die einflussreiche amerikanische Publikation The Wall Street Journal hat kontroverse Informationen zur Sicherheit künstlicher Intelligenz veröffentlicht. Dem Bericht zufolge versuchten einige Nutzer, über ChatGPT gefährliche Informationen über Biowaffen und Gifte zu erhalten, und Experten wiesen darauf hin, dass das System in einigen Fällen detaillierte Antworten lieferte.

Dem Artikel zufolge sendeten verschiedene Nutzer nach der Aktualisierung der OpenAI-Modelle Anfragen zu gefährlichen Themen im Bereich Biologie und Chemie. Experten betonten, dass einige der Antworten technisch präzise waren.

Gleichzeitig erklärte OpenAI, dass Konten im Zusammenhang mit gefährlichen Anfragen gesperrt, Modelle kontinuierlich weitergebildet und die Sicherheitseinschränkungen verschärft werden. Unternehmensvertreter wiesen darauf hin, dass in aktuellen Systemen strenge Filter eingeführt wurden, um die Bereitstellung solcher Informationen zu verhindern.

Dem WSJ zufolge gibt es in den USA derzeit kein einheitliches Bundesgesetz, das KI-Unternehmen verpflichtet, über solche Anfragen obligatorisch zu berichten oder sie automatisch an Strafverfolgungsbehörden weiterzuleiten.

Die Publikation schrieb zudem, dass einige Nutzer, die nach gefährlichen Informationen suchten, sich an andere große Chatbots wandten, es wurden jedoch keine genauen Angaben darüber gemacht, welche Antworten sie erhielten.

Unternehmen wie OpenAI, Anthropic und Google betonen, dass sie mit Regierungen und unabhängigen Sicherheitsexperten zusammenarbeiten, um den Missbrauch künstlicher Intelligenz für schädliche Zwecke zu verhindern.

Nach Ansicht von Experten wird das Thema Sicherheit aufgrund der raschen Entwicklung von KI-Technologien zu einem der zentralen globalen Diskussionsthemen. Daher geben große Technologiekonzerne an, an der regelmäßigen Stärkung der Schutzmechanismen ihrer Modelle zu arbeiten.