План, озвученный ChatGPT, дошел до полиции: в Бразилии арестован фермер

В Бразилии 36-летний фермер был арестован полицией после того, как в переписке с ChatGPT рассказал о плане совершения тяжкого преступления в отношении своего ребенка. Этот случай также привлек внимание к тому, как работают системы безопасности на платформах искусственного интеллекта.

OpenAI передала сообщение властям США

Инцидент произошел недалеко от города Сан-Габриел-да-Палья в штате Эспириту-Санту. По данным полиции, подозреваемый почти два месяца переписывался с ChatGPT и оставлял информацию о планах насилия в отношении своего ребенка.

Компания OpenAI выявила эти диалоги с точки зрения безопасности и передала информацию в Федеральное бюро расследований (ФБР) США. Затем ФБР через подразделение КйберЛаб Министерства юстиции Бразилии предупредило местные правоохранительные органы.

Подозреваемый был задержан за день до реализации плана

Бразильская полиция сообщила, что подозреваемый был пойман 19 июня, за день до даты, когда мог быть реализован план. Информация о реальной угрозе жизни ребенка была заблаговременно передана правоохранительным органам.

Полиция заявила, что он подозревается по статьям, связанным с угрозами, подстрекательством к преступлению и покушением на убийство. Личность подозреваемого не разглашается.

Важно отметить, что в данном случае ChatGPT выступил не как средство совершения преступления, а как цифровая среда, в которой сработала система безопасности, помогшая выявить опасное общение.

Это происшествие еще больше усилило споры о том, как мониторятся диалоги с искусственным интеллектом с точки зрения безопасности и в каком порядке информация передается правоохранительным органам при обнаружении серьезной угрозы.