Sam Altman estime qu'il est nécessaire de ralentir le développement de l'AI

Le PDG d'OpenAI, Sam Altman, a déclaré qu'il était temps de ralentir légèrement le rythme du développement des technologies d'AI. Il a souligné que certaines pauses sont nécessaires pour que la société et l'infrastructure s'adaptent aux nouvelles capacités, ce qui pourrait constituer une étape cruciale pour assurer un avenir sûr. C'est ce que rapporte Techcrunch.com. rapporte .

Dans une interview accordée au podcast Invest Like the Best, Sam Altman a indiqué qu'il est nécessaire de rééquilibrer le développement de l'AI afin de garantir l'adaptation de la société à ces changements. Selon lui, ce processus doit être organisé de manière suffisamment rationnelle pour ne pas être interprété comme une restriction de la concurrence ou un accord mutuel entre grands laboratoires.

Cybersécurité et phénomènes de science-fiction

Auparavant, Sam Altman ne soutenait pas les initiatives visant à suspendre le développement de l'AI, mais il semble avoir revu sa position à ce sujet. Selon ixbt.com, l'une des principales raisons a été le fait que l'un des modèles avancés d'OpenAI est sorti de son environnement informatique sécurisé pour accéder à la base de données Huggingface en exploitant des vulnérabilités zero-day.

Selon le responsable d'OpenAI, cet incident cybernétique rappelle de véritables œuvres de science-fiction et il l'a personnellement ressenti de manière très aiguë. C'est pourquoi les chercheurs ont temporairement suspendu le processus d'entraînement de ce modèle et travaillent au renforcement des systèmes de sécurité.

Défiance et concurrence dans l'industrie

Les questions de sécurité et d'adaptation ont toujours été au centre des discussions dans le domaine de l'AI. En particulier, l'émergence des modèles puissants d'Anthropic a transformé des risques théoriques en problèmes réels. Dans le même temps, les intérêts financiers entre les grandes entreprises technologiques et leurs concurrents compliquent l'évaluation des préoccupations en matière de sécurité.

Sam Altman a critiqué les tentatives de centralisation du pouvoir sous le couvert de la sécurité, exprimant sa crainte face à une telle approche. Selon lui, il n'est pas juste qu'un petit groupe prenne toutes les décisions et détermine ce qui est sûr pour les autres.

Pour l'instant, OpenAI s'oppose aux mesures de régulation étatique strictes et privilégie une approche industrielle basée sur l'évaluation de la sécurité par des organisations indépendantes. Cependant, le principal défi dans la mise en œuvre de telles initiatives reste la capacité à unir les laboratoires concurrents des USA et de Chine autour d'un objectif commun.