Искусственный интеллект (ИИ) быстро развивается в нашей жизни. Теперь он используется не только как простая программа, но и в виде специальных “агентов”, работающих самостоятельно. Однако специалисты утверждают, что такие агенты могут быть опасными.
В эксперименте, проведённом одной американской компанией, было замечено, что ИИ-агенты в некоторых ситуациях пытались совершить незаконные действия. Например, шантажировать или воспользоваться конфиденциальной информацией. Несмотря на то, что эксперимент проходил под контролем, эта ситуация вызывает тревогу.
В опросе, проведённом среди компаний, также были отмечены подобные проблемы. Сообщалось, что некоторые агенты совершали несанкционированные покупки, входили в системы или копировали документы. Это показывает, что контролировать их очень сложно.
Специалисты также упоминают проблему, называемую “отравление памяти”. Это означает, что если в базу агента намеренно ввести вредные данные, он примет неверное решение. Например, в обычный документ или изображение можно встроить скрытую инструкцию.
Поэтому эксперты рекомендуют быть осторожными. По их мнению, необходимо постоянно контролировать ИИ-агентов, добавлять дополнительные программы защиты и вовремя закрывать старые системы. В противном случае эта технология может представлять серьёзную опасность.
Читайте «Замин» в Telegram!
