KI schreibt eigene Richtlinie und blamiert die Regierung

Die Republik Südafrika hat ihr nationales Strategiedokument zur Künstlichen Intelligenz zurückgezogen, nachdem festgestellt wurde, dass Teile davon mit Hilfe von KI verfasst wurden und nicht existierende wissenschaftliche Quellen enthielten. Das Dokument, mit dem die Regierung eine Vorreiterrolle bei KI-Innovationen anstrebte, brachte die Behörden des Landes in eine peinliche Lage.

Im vergangenen Monat gab der südafrikanische Kommunikationsminister Solly Malatsi bekannt, dass er die nationale KI-Strategie zur Überarbeitung zurückgezogen habe. Grund dafür war, dass mindestens sechs der 67 im Dokument zitierten wissenschaftlichen Quellen von der KI erfunden wurden und auf nicht existierende Forschungsartikel verwiesen.

„Die plausibelste Erklärung ist, dass die von der KI generierten Quellen ohne entsprechende Überprüfung in das Dokument aufgenommen wurden. So etwas hätte nicht passieren dürfen“, sagte Solly Malatsi. Er betonte, dass dies kein einfacher technischer Fehler sei, sondern ein schwerwiegendes Versäumnis, das die Integrität und Glaubwürdigkeit des Strategieentwurfs untergraben habe.

KI-Strategie bringt Regierung in Verlegenheit

Die nationale KI-Strategie Südafrikas zielte darauf ab, das Land zu einem der führenden Staaten bei KI-Innovationen zu machen. Gleichzeitig sah das Dokument vor, ethische, soziale und wirtschaftliche Herausforderungen im Zusammenhang mit dieser Technologie anzugehen.

Nachdem jedoch die Verwendung nicht existierender wissenschaftlicher Quellen aufgedeckt wurde, entwickelte sich die Initiative für die Regierung zu einer peinlichen Angelegenheit. Medien berichteten, dass ein erheblicher Teil des Dokuments möglicherweise mit KI-Unterstützung erstellt wurde.

„Dieser inakzeptable Fehler beweist, wie wichtig eine ständige und sorgfältige menschliche Aufsicht bei der Nutzung von KI ist. Dies ist eine Lektion, die wir demütig annehmen“, fügte der Kommunikationsminister hinzu.

Verweise auf nicht existierende wissenschaftliche Artikel

Die südafrikanische Publikation News24 berichtete als erste über die gefälschten wissenschaftlichen Quellen im Entwurf der KI-Strategie des Landes. Das Dokument war kürzlich zur öffentlichen Konsultation vorgelegt worden.

Laut dem Bericht befinden sich unter den Quellen auch Artikel, die in der Realität nicht existieren. Dazu gehören South African Journal of Philosophy, AI & Society und Journal of Ethics and Social Philosophy als angeblich zugehörige wissenschaftliche Fachzeitschriften.

Dieser Vorfall hat die als „Halluzination“ bekannte Eigenschaft von KI erneut auf die Tagesordnung gesetzt. Dabei kann KI Informationen liefern, die glaubwürdig erscheinen, aber tatsächlich falsch oder erfunden sind.

Dokument wird überarbeitet, Verantwortliche werden zur Rechenschaft gezogen

Solly Malatsi kündigte zudem an, dass Maßnahmen gegen die für die Erstellung der nationalen KI-Strategie verantwortlichen Personen ergriffen werden. Der Minister betonte, dass es „Konsequenzen“ für die Verantwortlichen geben werde und das Dokument erst nach einer Überarbeitung erneut zur öffentlichen Diskussion gestellt werde.

Dieser Vorfall hat gezeigt, dass die Nutzung von KI bei der Erstellung wichtiger staatlicher Dokumente allein nicht ausreicht. Die bereitgestellten Informationen, insbesondere wissenschaftliche Quellen und Zitate, müssen von Menschen sorgfältig überprüft werden.

Der Vorfall in Südafrika erinnert daran, dass man neben der Nutzung der Möglichkeiten von KI auch die Verantwortung für menschliche Aufsicht und die Überprüfung von Daten nicht vergessen darf.