Anthropic: Claude моделлари эндиликда зарарли суҳбатларни тўхтата олади

TechCrunch ёзишича, Anthropic компанияси ўзининг айрим Claude моделлари энди зарарли ёки ҳақоратомуз суҳбатларни мустақил равишда тўхтатиш қобилиятига эга бўлганини маълум қилди.

Компанияга кўра, бу функция онлайн мулоқотларда хавфсизликни ошириш ва фойдаланувчиларни психологик ёки маънавий зарардан ҳимоя қилишга қаратилган.

Мутахассислар таъкидлашича, бу қадам ИИнинг инсон билан мулоқотда масъулият даражасини ошириши ва рақамли муҳитда соғлом атмосфера яратишга ёрдам бериши мумкин.