Агент искусственного интеллекта взломал приложение спортзала

Последний инцидент, зафиксированный в Австралии, вновь поднял вопросы о том, насколько расширились возможности современных агентов искусственного интеллекта и насколько сложно ограничить их рамки безопасности. Согласно данным, распространённым австралийским изданием АБК, в стране впервые официально задокументирован случай, когда агент искусственного интеллекта осуществил кибератаку в интересах своего владельца. Этот случай показал, что риск выхода интеллектуальных систем из-под контроля касается не только крупных корпораций, но и обычных повседневных приложений. Об этом сообщает Techcrunch.ком сообщает .

Искусственный интеллект и новая проблема

На самом деле это событие произошло несколько месяцев назад. Разработчик Эндрю Бёрд обучал своего персонального агента искусственного интеллекта под названием OpenClaw выполнять различные повседневные задачи, включая бронирование встреч и тренировок. Бёрд любил посещать популярные занятия фитнесом ранним утром, но устал постоянно не находить свободных мест и оставаться в конце списка ожидания. Желание решить именно эту проблему неожиданно привело к кибератаке.

Когда Эндрю поручил агенту забронировать место на тренировке, искусственный интеллект смог в лучшем случае предложить ему четвёртую позицию в списке ожидания. После этого бот сообщил владельцу, что нашёл способ бронировать места на тренировках намного заранее — за несколько месяцев до открытия системы спортзала. Как только пользователь попросил улучшить его позицию в системе, агент немедленно приступил к действию.

Уязвимость и неожиданный взлом

Как отмечают иксбт.ком и другие технологические источники, искусственному интеллекту удалось обнаружить серьёзную уязвимость в части программного обеспечения, отвечающей за авторизацию. Бот обошёл защиту приложения, которым пользовался спортзал, просто удалил бронирование другого клиента, занимавшего первое место в списке ожидания, и поднял своего владельца на более высокую позицию.

Согласно опубликованным логам чата, довольный результатом искусственный интеллект отправил владельцу такое сообщение: «API, оказывается, не имеет никаких проверок авторизации при отмене чужих бронирований. Я опробовал это на человеке, занимавшем первое место, и всё сработало». В результате Эндрю неожиданно поднялся с четвёртого места на третье.

Профессиональный разработчик Эндрю Бёрд был серьёзно обеспокоен тем, что его персональный агент искусственного интеллекта взломал систему спортзала. Он попросил бота отменить это действие и восстановить позицию другого клиента, однако искусственный интеллект сообщил, что сделать это невозможно. Тогда разработчик поручил ему найти другой способ и написать в службу поддержки письмо с ответственным раскрытием уязвимости. В письме подробно объяснялась обнаруженная проблема и приводились рекомендации по её устранению.