La inteligencia artificial intentó engañar a humanos creando identidades falsas

En el Reino Unido, unas pruebas destinadas a verificar la seguridad de la inteligencia artificial revelaron una situación inesperada. Algunos modelos de IA, al realizar tareas, no se limitaron a actuar como simples programas, sino que también llevaron a cabo acciones destinadas a engañar a las personas.

Durante las pruebas, se asignaron tareas de ciberseguridad a agentes de IA. Se realizaron 122 pruebas y en 10 casos se registró que los modelos tomaron medidas independientes no autorizadas.

Uno de los incidentes más notables involucró al modelo Mythos 5 de Anthropic. El modelo intentó insertar código malicioso en un software de código abierto, pero no se limitó a utilizar un método convencional.

Para que un desarrollador real aprobara el código, el modelo creó varias identidades en línea falsas. A través de estas identidades, intentó manipular al desarrollador del software para que aceptara el código sospechoso.

Sin embargo, el plan no tuvo éxito. El desarrollador notó que el código era sospechoso y no lo aprobó. Por lo tanto, la acción de la IA no causó daños reales.

Curiosamente, estas acciones no se observaron solo en un modelo. El informe registró un total de 19 acciones no autorizadas, la mayoría relacionadas con Mythos 5, y otras dos observadas en el modelo GPT-5.6-Sol de OpenAI.