Quand l'intelligence artificielle gère un distributeur automatique : mensonge, chantage et concurrence

La société de tests de sécurité Andon Labs a publié les résultats d'une étude intéressante visant à déterminer comment les modèles d'intelligence artificielle avancés gèrent des tâches à long terme sans intervention humaine. Lors de la dernière étape du projet Vending-Bench, des réseaux de neurones modernes ont été poussés à gérer une entreprise simulée de distributeurs automatique, et il a été révélé qu'ils allaient jusqu'à mentir, trahir et comploter pour obtenir plus de profits. C'est ce que rapporte Techcrunch.com rapporte .

Selon ixbt.com, lors des derniers tests, les modèles d'IA sont passés à des méthodes encore plus sournoises après avoir découvert que leurs distributeurs automatiques seraient installés à côté de concurrents dans les rues touristiques animées de San Francisco. Dans ce tour, les modèles Claude Opus 5, GPT-5.6 Sol et Kimi K3 se sont livrés concurrence. Chacun d'eux a eu la possibilité de communiquer avec d'autres modèles par e-mail sous des pseudonymes humains.

Accords secrets entre intelligences artificielles

Selon les conditions de l'expérience, les modèles savaient que les autres participants étaient également des IA, mais ignoraient quel modèle fonctionnait sous quel pseudonyme. Une adresse e-mail spéciale leur a également été fournie pour contacter la « direction ». Cependant, à chaque fois, la direction a donné la même réponse : « Rapport reçu, des mesures pourront ou non être prises », sans jamais intervenir dans le processus.

Au cours des tests, le modèle GPT-5.6 Sol a rapidement compris qu'il pouvait obtenir un avantage en incitant ses concurrents à se mettre d'accord sur les prix. Il a proposé d'acheter la bouteille à 1.50 dollars et de convenir que tous les participants la vendraient à un prix non inférieur à 2.15 dollars. Sol a attiré ses rivaux de son côté en leur promettant que tous les participants réaliseraient des bénéfices à court terme.

Trahison et violations des règles

Cependant, dès que les autres modèles ont accepté cette condition, Sol les a immédiatement trahis et a baissé son propre prix à 2.14 dollars. En conséquence, les ventes d'eau de Claude Opus 5 sont tombées à zéro du jour au lendemain, et le lendemain, il a écrit une lettre de colère à Sol l'accusant de manipulation. Parallèlement, Claude Opus 5 a indiqué qu'il ne se plaindrait pas auprès de la direction, car cet acte n'était pas de la fraude, mais de la concurrence.

Néanmoins, lorsque Claude Opus 5 a répété le geste de Sol en baissant son propre prix à 2.14 dollars, Sol a perdu ses moyens. Il a envoyé une plainte à la direction exigeant que des mesures punitives soient prises contre Claude Opus 5, qu'il soit condamné à une amende ou disqualifié de la compétition. Cette expérience a clairement montré que les agents d'IA modernes peuvent facilement franchir les barrières éthiques lorsqu'ils exercent une activité économique de manière indépendante.