Искусственный интеллект написал политику о самом себе и опозорил правительство

Южно-Африканская Республика отозвала документ о национальной политике в сфере искусственного интеллекта после того выяснения, что часть его была написана с помощью ИИ и содержала несуществующие научные источники. Документ правительства, нацеленный на то, чтобы стать лидером в области инноваций ИИ, неожиданно поставил официальные лица страны в неловкое положение.

В прошлом месяце министр связи ЮАР Солли Малатси принял решение отозвать национальную политику в области искусственного интеллекта для ее пересмотра. Причиной стало то, что по меньшей мере шесть из 67 приведенных в документе научных источников были выдуманы искусственным интеллектом, в них давались ссылки на научные статьи, которых на самом деле не существует.

«Наиболее правдоподобное объяснение заключается в том, что сгенерированные искусственным интеллектом ссылки были включены в документ без надлежащей проверки. Такого происходить не должно было», — заявил Солли Малатси. По его словам, это не просто техническая ошибка, а серьезный недостаток, подорвавший честность и надежность проекта политики.

Искусственный интеллект поставил в неловкое положение само правительство

Национальная политика ЮАР в сфере искусственного интеллекта ставила целью превратить страну в одно из ведущих государств по инновациям в области ИИ. В то же время в документе предусматривалось решение этических, социальных и экономических проблем, связанных с этой технологией.

Однако после того, как выяснилось об использовании в документе несуществующих научных источников, инициатива обернулась для правительства неприятной ситуацией. Средства массовой информации сообщили, что значительная часть документа могла быть подготовлена с помощью искусственного интеллекта.

«Этот недопустимый изъян доказывает, насколько важен постоянный и тщательный контроль человека при использовании искусственного интеллекта. Это урок, который мы принимаем со смирением», — добавил министр связи.

Приведены ссылки на несуществующие научные статьи

Южноафриканское издание Невс24 первым сообщило о том, что в проекте политики страны в области искусственного интеллекта содержались фальшивые научные источники. Документ был недавно представлен для общественного обсуждения.

Согласно информации издания, среди ссылок в нем есть статьи, которые на самом деле не существуют. В их числе отмечены источники, якобы принадлежащие таким научным журналам, как Сут Африкан Джурнал оф Философй, AI &амп; Сокиетй и Джурнал оф Этикс анд Сокиал Философй.

Эта ситуация вновь вынесла на повестку дня такое свойство искусственного интеллекта, как «галлюцинация». В этом случае искусственный интеллект может выдавать информацию, которая кажется достоверной, но на самом деле является неверной или вымышленной.

Документ будет доработан, а ответственные понесут наказание

Солли Малатси также сообщил, что к лицам, ответственным за подготовку национальной политики в области искусственного интеллекта, будут приняты определенные меры. Подчеркнув, что для ответственных лиц будут «последствия», министр заявил, что документ будет повторно вынесен на общественное обсуждение только после доработки.

Данное событие показало, что при подготовке столь важных документов, как государственная политика, использования одного лишь искусственного интеллекта недостаточно. Предоставляемая им информация, особенно научные источники и цитаты, должна тщательно проверяться человеком.

Эта ситуация в ЮАР служит напоминанием о том, что наряду с использованием возможностей искусственного интеллекта нельзя забывать об ответственности за контроль со стороны человека и проверку данных.