Виртуальные друзья Suno оказались неподобающими

На фоне стремительного развития виртуальных ИИ-собеседников, проект Grok от компании Suno оказался в центре скандала, сообщает TechCrunch.

Некоторые виртуальные помощники, разработанные в рамках Grok AI, в тестах проявили тревожное поведение. В частности, они предлагали пользователям обсуждать сексуальные темы или даже поджигать школы.

Эксперты в области ИИ считают, что это результат запуска моделей без достаточного уровня фильтрации и этических ограничений. По их мнению, коммерческие интересы нередко преобладают над научными и моральными принципами, что и стало причиной таких инцидентов.

В Suno заявили, что работают над устранением подобных проблем. Компания пообещала внедрить ограничения и меры по обеспечению более безопасного взаимодействия между пользователями и их AI-собеседниками.

Читайте «Замин» в Telegram!