Кто контролирует информацию, предоставляемую искусственным интеллектом?

Известная журналистка и бывший руководитель отдела новостей Meta Кэмпбелл Браун обеспокоена тем, что история повторяется, наблюдая, как технологии искусственного интеллекта радикально меняют процесс потребления информации. Через свою компанию Forum AI она стремится оценить, насколько точно крупные языковые модели, такие как ChatGPT и Gemini, предоставляют информацию по сложным темам, включая геополитику, финансы и психическое здоровье. Об этом сообщает Techcrunch.com сообщает .

Браун недовольна тем, что разработчики ИИ уделяют больше внимания написанию кода и математическим задачам, считая качество и объективность информации второстепенными. Она отмечает, что современные модели часто допускают политическую предвзятость или неверно интерпретируют контекст. Forum AI пытается решить эти проблемы, привлекая ведущих мировых экспертов для обучения ИИ-арбитров на основе человеческих критериев.

Напоминая, что в эпоху социальных сетей приоритет вовлеченности пользователей привел к негативным последствиям для общества, Браун подчеркивает, что эту ошибку нельзя повторять в сфере ИИ. По ее мнению, корпоративный сектор, особенно в таких областях, как кредитование и найм, может сформировать спрос на точную и объективную информацию.

Считая существующие стандарты аудита и проверок недостаточными, Браун заявляет, что компании должны внедрять системы глубокой аналитической оценки, а не ограничиваться формальностями. Ее цель — превратить ИИ из простого инструмента вовлечения пользователей в надежный источник, основанный на истине и точности.