La célèbre journaliste et ancienne responsable de la division actualités de Meta, Campbell Brown, craint que l'histoire ne se répète en observant comment les technologies d'IA modifient fondamentalement le processus de consommation de l'information. À travers son entreprise Forum AI, elle vise à évaluer la précision avec laquelle les grands modèles de langage comme ChatGPT et Gemini fournissent des informations sur des sujets complexes tels que la géopolitique, la finance et la santé mentale. C'est ce que rapporte Techcrunch.com rapporte.
Brown déplore que les développeurs d'IA se concentrent davantage sur le code et les problèmes mathématiques, reléguant la qualité et l'impartialité de l'information au second plan. Elle souligne que les modèles actuels font souvent preuve de biais politiques ou interprètent mal le contexte. Forum AI tente de résoudre ces problèmes en faisant appel à des experts mondiaux pour former des juges IA basés sur des critères humains.
Rappelant que la priorité donnée à l'engagement des utilisateurs à l'ère des réseaux sociaux a eu des conséquences sociétales négatives, Brown insiste sur le fait que cette erreur ne doit pas être répétée dans le domaine de l'IA. Elle estime que le secteur privé, notamment dans les domaines du crédit et du recrutement, peut façonner la demande d'informations précises et impartiales.
Jugeant les audits et contrôles actuels insuffisants, Brown affirme que les entreprises doivent mettre en place des systèmes d'évaluation analytique approfondis plutôt que de se limiter à la paperasse. Son objectif est de transformer l'IA d'un simple outil d'engagement en une source fiable fondée sur la vérité et la précision.
Lisez “Zamin” sur Telegram !
