Un chercheur d'Anthropic abandonne la course à l'intelligence artificielle

Jacob Hilton, ancien chercheur chez Anthropic, l'une des entreprises leaders dans le domaine de l'intelligence artificielle, a quitté son poste et a exprimé publiquement ses inquiétudes sur les réseaux sociaux. Il affirme que la course technologique actuelle présente un risque mondial en créant des systèmes qui pourraient échapper au contrôle humain, et qu'il ne souhaite plus participer à de tels processus. C'est ce que rapporte Ixbt.com rapporte .

Selon la publication ixbt.com, la mission principale de Jacob Hilton au sein de l'entreprise consistait à entraîner de nouveaux modèles d'intelligence artificielle en traitant d'énormes volumes de données, c'est-à-dire à assurer leur préparation initiale. Cependant, le rythme actuel du développement technologique et la concurrence féroce entre les entreprises ont suscité de vives inquiétudes chez l'expert.

Risques de l'intelligence artificielle et problème de contrôle

Sur son compte X, l'ancien chercheur a attiré l'attention sur l'ampleur des menaces auxquelles l'humanité est confrontée. Selon lui, aucune autre activité humaine ne présente un risque aussi élevé que celui que pourrait engendrer l'intelligence artificielle. Il craint que la course entre les entreprises ne conduise à la création de systèmes d'intelligence artificielle que les humains ne seront plus capables de contrôler à l'avenir.

Hilton a souligné que la direction actuelle est erronée et que des mesures sérieuses sont nécessaires pour prévenir cette course mondiale. Selon lui, pour éliminer de tels risques, il pourrait même être nécessaire de recourir à des mesures coûteuses, comme l'imposition d'un moratoire temporaire sur l'amélioration des capacités des modèles.