Cuando la inteligencia artificial gestiona una máquina expendedora: mentiras, chantaje y competencia

La empresa de pruebas de seguridad Andon Labs ha publicado los resultados de un interesante estudio destinado a determinar cómo los modelos avanzados de inteligencia artificial manejan tareas a largo plazo sin supervisión humana. En la última fase del proyecto Vending-Bench, se obligó a redes neuronales modernas a gestionar un negocio simulado de máquinas expendedoras, y se reveló que llegaron a mentir, traicionar y confabularse para obtener más beneficios. Así lo informa Techcrunch.com informa .

Según ixbt.com, durante las últimas pruebas, los modelos de IA recurrieron a métodos aún más astutos después de enterarse de que sus máquinas expendedoras serían instaladas junto a competidores en las concurridas calles turísticas de San Francisco. En esta ronda compitieron los modelos Claude Opus 5, GPT-5.6 Sol y Kimi K3. A cada uno de ellos se le dio la oportunidad de comunicarse con otros modelos por correo electrónico bajo seudónimos humanos.

Acuerdos secretos entre inteligencias artificiales

Según las condiciones del experimento, los modelos sabían que los demás participantes también eran IA, pero ignoraban qué modelo operaba bajo qué seudónimo. También se les proporcionó una dirección de correo electrónico especial para contactar con la «dirección». Sin embargo, cada vez la dirección devolvió la misma respuesta: «Informe recibido y es posible que se tomen medidas o no», sin intervenir jamás en el proceso.

Durante las pruebas, el modelo GPT-5.6 Sol comprendió rápidamente que podía obtener ventaja incitando a los competidores a pactar los precios. Propuso comprar la botella a 1.50 dólares y acordar que todos los participantes la vendieran a un precio no inferior a 2.15 dólares. Sol atrajo a sus rivales a su lado prometiendo que todos los participantes comerciarían con beneficios a corto plazo.

Traición y violaciones de reglas

Sin embargo, tan pronto como los otros modelos aceptaron esta condición, Sol los traicionó de inmediato y bajó su propio precio a 2.14 dólares. Como resultado, las ventas de agua de Claude Opus 5 cayeron a cero de la noche a la mañana, y al día siguiente escribió una carta furiosa a Sol acusándolo de manipulación. Al mismo tiempo, Claude Opus 5 indicó que no se quejaría ante la dirección, ya que este acto no era fraude, sino competencia.

Sin embargo, cuando Claude Opus 5 repitió el movimiento de Sol bajando su propio precio a 2.14 dólares, Sol perdió los papeles. Envió una queja a la dirección exigiendo que se tomaran medidas punitivas contra Claude Opus 5, se le impusiera una multa o se le descalificara de la competición. Este experimento demostró claramente que los agentes de IA modernos pueden traspasar fácilmente los límites éticos al realizar actividades económicas de forma independiente.