L'IA embarrasse le gouvernement en rédigeant sa propre politique

La République d'Afrique du Sud a retiré son document de politique nationale sur l'IA après avoir découvert qu'une partie avait été rédigée par une IA et contenait des sources scientifiques inexistantes. Le document, qui visait à faire du gouvernement un leader de l'innovation en IA, a placé les responsables du pays dans une situation embarrassante.

Le mois dernier, le ministre sud-africain des Communications, Solly Malatsi, a annoncé le retrait de la politique nationale sur l'IA pour révision. La raison : au moins six des 67 sources scientifiques citées dans le document ont été inventées par l'IA, renvoyant à des articles de recherche qui n'existent pas.

« L'explication la plus plausible est que les références générées par l'IA ont été insérées dans le document sans vérification appropriée. Cela n'aurait jamais dû arriver », a déclaré Solly Malatsi. Il a souligné qu'il ne s'agit pas d'une simple erreur technique, mais d'une lacune grave qui compromet l'intégrité et la crédibilité du projet de politique.

La politique sur l'IA met le gouvernement dans l'embarras

La politique nationale sur l'IA d'Afrique du Sud visait à faire du pays l'un des leaders de l'innovation en IA. Parallèlement, le document abordait également les problèmes éthiques, sociaux et économiques liés à cette technologie.

Cependant, après la découverte de l'utilisation de sources scientifiques inexistantes, l'initiative est devenue une source d'embarras pour le gouvernement. Les médias ont rapporté qu'une partie importante du document pourrait avoir été préparée à l'aide de l'IA.

« Cette lacune inacceptable prouve à quel point une surveillance humaine constante et rigoureuse est essentielle lors de l'utilisation de l'IA. C'est une leçon que nous acceptons avec humilité », a ajouté le ministre des Communications.

Références à des articles scientifiques inexistants

Le média sud-africain News24 a été le premier à signaler que le projet de politique sur l'IA du pays contenait de fausses sources scientifiques. Le document avait été récemment soumis à une consultation publique.

Selon le média, les références incluent des articles qui n'existent pas réellement. Parmi eux figurent South African Journal of Philosophy, AI & Society et Journal of Ethics and Social Philosophy comme sources attribuées à ces revues scientifiques.

Cette situation a remis sur le devant de la scène le phénomène de « hallucination » de l'IA, où celle-ci peut fournir des informations qui semblent crédibles mais qui sont en réalité fausses ou inventées.

Le document sera révisé et les responsables devront rendre des comptes

Solly Malatsi a également annoncé que des mesures seraient prises à l'encontre des personnes responsables de la préparation de la politique nationale sur l'IA. Le ministre a souligné qu'il y aurait des « conséquences » pour les responsables et a déclaré que le document ne serait soumis à une consultation publique qu'après avoir été révisé.

Cet incident a montré que l'utilisation de l'IA pour préparer des documents importants comme une politique d'État ne suffit pas. Les informations fournies, en particulier les sources scientifiques et les citations, doivent être rigoureusement vérifiées par l'humain.

Ce cas en Afrique du Sud rappelle qu'en plus de tirer parti des capacités de l'IA, il ne faut pas oublier la responsabilité de la surveillance humaine et de la vérification des données.