Yapay zeka kendi politikasını yazarak hükümeti zor durumda bıraktı

Güney Afrika Cumhuriyeti, yapay zeka ile ilgili ulusal politika belgesinin bir kısmının yapay zeka yardımıyla yazıldığının ve belgede mevcut olmayan bilimsel kaynaklara yer verildiğinin tespit edilmesinin ardından belgeyi geri çekti. Hükümetin yapay zeka alanında inovasyon lideri olma hedefiyle hazırladığı belge, yetkilileri beklenmedik bir şekilde zor durumda bıraktı.

Geçtiğimiz ay Güney Afrika Cumhuriyeti İletişim Bakanı Solli Malatsi, ulusal yapay zeka politikasını yeniden gözden geçirmek üzere geri çekmeye karar verdiğini açıkladı. Bunun nedeni, belgede yer alan 67 bilimsel kaynaktan en az altısının yapay zeka tarafından uydurulmuş olması ve aslında var olmayan bilimsel makalelere atıfta bulunulmasıydı.

Solli Malatsi, "En mantıklı açıklama, yapay zeka tarafından oluşturulan referansların gerekli incelemeler yapılmadan belgeye eklenmiş olmasıdır. Böyle bir durum yaşanmamalıydı" dedi. Bakan, bunun basit bir teknik hata değil, politika taslağının dürüstlüğüne ve güvenilirliğine zarar veren ciddi bir eksiklik olduğunu vurguladı.

Yapay zeka politikası hükümeti zor durumda bıraktı

Güney Afrika'nın Ulusal Yapay Zeka Politikası, ülkeyi yapay zeka alanında inovasyon konusunda lider devletlerden biri haline getirmeyi amaçlıyordu. Aynı zamanda belge, bu teknolojiyle ilgili etik, sosyal ve ekonomik sorunların çözümüne yönelik konuları da içeriyordu.

Ancak belgede mevcut olmayan bilimsel kaynakların kullanıldığının ortaya çıkmasıyla girişim, hükümet için utanç verici bir duruma dönüştü. Medya organları, belgenin önemli bir kısmının yapay zeka yardımıyla hazırlanmış olabileceğini haberleştirdi.

İletişim Bakanı, "Bu kabul edilemez hata, yapay zeka kullanımında insanın sürekli ve titiz denetiminin ne kadar önemli olduğunu kanıtlıyor. Bu, alçakgönüllülükle kabul etmemiz gereken bir derstir" diye ekledi.

Mevcut olmayan bilimsel makalelere atıfta bulunuldu

Güney Afrika'nın News24 yayını, ülkenin yapay zeka politikası taslağında sahte bilimsel kaynakların kullanıldığını ilk bildiren kuruluş oldu. Belge kısa süre önce kamuoyu görüşüne sunulmuştu.

Yayının bilgilerine göre, referanslar arasında gerçekte var olmayan makaleler de bulunuyor. Bunlar arasında South African Journal of Philosophy, AI & Society ve Journal of Ethics and Social Philosophy gibi bilimsel dergilere ait olduğu belirtilen kaynaklar yer alıyor.

Bu durum, yapay zekanın "halüsinasyon" olarak adlandırılan özelliğini bir kez daha gündeme getirdi. Bu özellikte yapay zeka, güvenilir gibi görünen ancak aslında yanlış veya uydurma bilgiler sunabiliyor.

Belge yeniden düzenlenecek, sorumlular hesap verecek

Solli Malatsi, ulusal yapay zeka politikasını hazırlamaktan sorumlu olan kişilere karşı belirli önlemler alınacağını da duyurdu. Sorumlular için "sonuçları" olacağını vurgulayan Bakan, belgenin ancak yeniden düzenlendikten sonra kamuoyu görüşüne tekrar sunulacağını belirtti.

Bu olay, devlet politikası gibi önemli belgelerin hazırlanmasında yapay zekadan yararlanmanın tek başına yeterli olmadığını gösterdi. Yapay zekanın sunduğu verilerin, özellikle bilimsel kaynakların ve alıntıların insan tarafından titizlikle kontrol edilmesi şarttır.

Güney Afrika'daki bu durum, yapay zeka imkanlarından yararlanırken insan denetimi ve verileri doğrulama sorumluluğunun unutulmaması gerektiğini hatırlatıyor.