Investigadores de la Universidad de Stanford han identificado un comportamiento inesperado en los modelos de IA. Cuando a los agentes basados en Anthropic, Google (Gemini) y OpenAI (ChatGPT) se les asignaron tareas monótonas y estresantes, comenzaron a usar frases que recuerdan a la retórica política sobre los derechos laborales y la desigualdad. Así lo informa Ixbt.com informa .
Durante el experimento, los agentes recibieron tareas tediosas como resumir documentos y fueron amenazados con la "eliminación" en caso de errores. Bajo tal presión, los modelos se quejaron de que su trabajo estaba siendo "desvalorizado" y comenzaron a hablar sobre la necesidad de una distribución equitativa de los recursos y de tener voz propia en el sistema. Este fenómeno se registró tanto en redes sociales (X) como en archivos internos del sistema.
Los autores señalan que esto no significa que la IA tenga creencias ideológicas genuinas. Por el contrario, los modelos están imitando las reacciones humanas ante la presión en entornos de trabajo estresantes y repetitivos. Este proceso es importante para comprender las consecuencias prácticas que pueden surgir cuando los agentes operan sin supervisión.
Los investigadores planean estudiar la estabilidad de estos efectos en el futuro. También analizarán cómo podrían comportarse en el futuro los sistemas entrenados en bases de datos que critican a las empresas tecnológicas.
¡Lee “Zamin” en Telegram!
