ChatGPT снова в центре критики: ВСДж опубликовал спорные данные

Влиятельное американское издание Те Валл Стрит Джурнал опубликовало спорные данные, касающиеся безопасности искусственного интеллекта. В публикации отмечается, что некоторые пользователи пытались получить через ChatGPT опасную информацию о биологическом оружии и ядах, а в ряде случаев система давала подробные ответы, приводятся мнения экспертов.

Согласно статье, после обновления моделей OpenAI различные пользователи отправляли запросы на опасные темы, связанные с биологией и химией. Эксперты подчеркнули, что некоторые ответы были технически точными.

В то же время в OpenAI заявили, что аккаунты, связанные с опасными запросами, блокируются, модели постоянно переобучаются, а ограничения безопасности усиливаются. Представители компании отмечают, что в нынешних системах введены строгие фильтры для предотвращения предоставления подобной информации.

Как пишет ВСДж, в США пока нет единого федерального закона, обязывающего компании, занимающиеся искусственным интеллектом, отчитываться по таким запросам или автоматически передавать их в правоохранительные органы.

Издание также написало, что некоторые пользователи, искавшие опасную информацию, обращались и к другим крупным чат-ботам, однако точных данных о том, какие ответы они получили, не приводится.

В свою очередь, такие компании, как OpenAI, Anthropic и Google, подчеркивают, что сотрудничают с правительствами и независимыми экспертами по безопасности для предотвращения использования искусственного интеллекта в вредоносных целях.

По мнению специалистов, из-за стремительного развития технологий искусственного интеллекта вопросы безопасности становятся одной из главных тем для обсуждения на глобальном уровне. Поэтому крупные технологические компании заявляют, что работают над регулярным усилением защитных механизмов моделей.