La IA avergüenza al gobierno al redactar su propia política

La República de Sudáfrica retiró su documento de política nacional sobre IA tras descubrirse que una parte fue redactada por una IA y contenía fuentes científicas inexistentes. El documento, que pretendía convertir al gobierno en un líder en innovación de IA, dejó a los funcionarios del país en una situación incómoda.

El mes pasado, el ministro de Comunicaciones de Sudáfrica, Solly Malatsi, anunció la retirada de la política nacional de IA para su revisión. La razón fue que al menos seis de las 67 fuentes científicas citadas en el documento fueron inventadas por la IA, remitiendo a artículos de investigación que no existen.

«La explicación más plausible es que las referencias generadas por la IA se incluyeron en el documento sin la verificación adecuada. Esto no debería haber ocurrido», dijo Solly Malatsi. Subrayó que no se trata de un simple error técnico, sino de una falta grave que compromete la integridad y credibilidad del proyecto de política.

La política de IA pone al gobierno en una situación embarazosa

La política nacional de IA de Sudáfrica tenía como objetivo convertir al país en uno de los líderes en innovación de IA. Al mismo tiempo, el documento abordaba cuestiones éticas, sociales y económicas relacionadas con esta tecnología.

Sin embargo, tras descubrirse el uso de fuentes científicas inexistentes, la iniciativa se convirtió en una vergüenza para el gobierno. Los medios informaron que una parte significativa del documento pudo haber sido preparada con la ayuda de la IA.

«Esta deficiencia inaceptable demuestra cuán crucial es la supervisión humana constante y rigurosa al utilizar la IA. Es una lección que aceptamos con humildad», añadió el ministro de Comunicaciones.

Referencias a artículos científicos inexistentes

El medio sudafricano News24 fue el primero en informar que el borrador de la política de IA del país contenía fuentes científicas falsas. El documento había sido presentado recientemente a consulta pública.

Según el medio, las referencias incluyen artículos que no existen realmente. Entre ellos se encuentran South African Journal of Philosophy, AI & Society y Journal of Ethics and Social Philosophy como fuentes atribuidas a estas revistas científicas.

Esta situación ha vuelto a poner sobre la mesa el fenómeno de la «alucinación» de la IA, donde esta puede proporcionar información que parece creíble pero que en realidad es falsa o inventada.

El documento será revisado y los responsables rendirán cuentas

Solly Malatsi también anunció que se tomarán medidas contra los responsables de preparar la política nacional de IA. El ministro enfatizó que habrá «consecuencias» y declaró que el documento solo se someterá a consulta pública nuevamente después de ser revisado.

Este incidente demostró que usar la IA para preparar documentos importantes como una política estatal no es suficiente. La información proporcionada, especialmente las fuentes científicas y citas, debe ser verificada rigurosamente por humanos.

Este caso en Sudáfrica recuerda que, además de aprovechar las capacidades de la IA, no se debe olvidar la responsabilidad de la supervisión humana y la verificación de datos.