Une initiative importante a été lancée aux États-Unis pour réglementer les technologies d'IA. La "Déclaration d'humanité", signée par des centaines de scientifiques, d'anciens responsables et de personnalités publiques, exige que les intérêts humains soient prioritaires dans le développement de l'IA. Ce document propose une feuille de route sécurisée pour l'avenir du secteur à un moment où le gouvernement n'a pas encore établi de règles claires. À ce sujet techcrunch.com rapporte.
Les auteurs de la déclaration, dont le physicien du MIT Max Tegmark, soulignent que la société est préoccupée par la course à l'IA. Selon les sondages, 95 % des Américains sont opposés à la création d'une superintelligence incontrôlée. Le document appelle à abandonner la voie dangereuse qui évince les humains de leurs emplois et transfère le pouvoir à des entreprises non responsables. Au lieu de cela, il est proposé de développer des technologies qui élargissent les capacités humaines.
Les nouvelles règles reposent sur cinq piliers : maintenir le contrôle humain, empêcher la centralisation du pouvoir, protéger la liberté individuelle et assurer la responsabilité des entreprises devant la loi. Des mesures strictes sont également prévues, telles que l'interdiction de créer une superintelligence tant que la sécurité n'est pas garantie, l'obligation d'intégrer une fonction d'arrêt des systèmes et la limitation des architectures auto-réplicatives.
Cette initiative est devenue encore plus pertinente dans le contexte du conflit entre le Pentagone et la société "Anthropic". La lenteur du gouvernement dans le domaine de l'IA est devenue une menace évidente pour la sécurité nationale. Les experts soulignent que, tout comme pour le marché pharmaceutique, les produits d'IA ne devraient pas être autorisés sans preuve de leur sécurité. La question du test des applications destinées aux jeunes est particulièrement prioritaire.
Lisez “Zamin” sur Telegram !
