ChatGPT de nouveau sous le feu des critiques : le WSJ publie des informations controversées

Le prestigieux journal américain The Wall Street Journal a publié des informations controversées concernant la sécurité de l'intelligence artificielle. L'article indique que certains utilisateurs ont tenté d'obtenir des informations dangereuses sur les armes biologiques et les poisons via ChatGPT, et des experts affirment qu'dans certains cas, le système a fourni des réponses détaillées.

Selon l'article, après la mise à jour des modèles d'OpenAI, divers utilisateurs ont envoyé des requêtes sur des sujets dangereux liés à la biologie et à la chimie. Des experts ont souligné que certaines réponses étaient techniquement précises.

Parallèlement, OpenAI a déclaré que les comptes associés à des requêtes dangereuses sont bloqués, que les modèles sont continuellement réentraînés et que les restrictions de sécurité sont renforcées. Des représentants de l'entreprise soulignent que des filtres stricts ont été introduits dans les systèmes actuels pour empêcher la fourniture de telles informations.

Le WSJ écrit qu'il n'existe actuellement aucune loi fédérale unique aux États-Unis obligeant les entreprises d'intelligence artificielle à faire des rapports obligatoires sur de telles requêtes ou à les transmettre automatiquement aux forces de l'ordre.

La publication a également écrit que certains utilisateurs à la recherche d'informations dangereuses se sont tournés vers d'autres grands chatbots, mais aucune information précise n'a été fournie sur les réponses qu'ils ont reçues.

Des entreprises telles qu'OpenAI, Anthropic et Google soulignent qu'elles coopèrent avec les gouvernements et des experts indépendants en sécurité pour prévenir l'utilisation malveillante de l'intelligence artificielle.

Experts estiment qu'en raison du développement rapide des technologies d'intelligence artificielle, la question de la sécurité devient l'un des principaux sujets de discussion à l'échelle mondiale. Par conséquent, les grandes entreprises technologiques déclarent travailler à renforcer régulièrement les mécanismes de protection des modèles.