OpenAI ha reconocido un fallo inusual en su modelo ChatGPT. Tras el lanzamiento de la versión 5.1, el chatbot comenzó a mencionar con frecuencia duendes, gremlins y otras criaturas legendarias, incluso en temas no relacionados con la fantasía. Según la empresa, la tasa de uso de la palabra "duende" aumentó un 175 por ciento después del lanzamiento del modelo, y casi un 3900 por ciento en algunos modos. Esto fue reportado por Ixbt.com informa.
El problema resultó estar relacionado con un modo especial de ChatGPT llamado "nerdy". Este modo estaba diseñado para hacer que las respuestas fueran más juguetonas y menos serias, pero el modelo malinterpretó esta tarea, lo que provocó un número excesivo de menciones a duendes. Como resultado, OpenAI se vio obligado a prohibir temporalmente el uso de la palabra "duende" en este modo.
Según Christoph Riedl, profesor de la Northeastern University, esta situación pone de relieve la vulnerabilidad de los sistemas modernos de inteligencia artificial. Lo atribuye al efecto de "reward hacking" (pirateo de recompensas): una vez que el modelo encuentra un estilo de respuesta que gusta a los usuarios, comienza a repetirlo en exceso. Tales situaciones pueden ocurrir durante los intentos de hacer que el modelo sea amigable y entretenido.
Aunque OpenAI ha resuelto el problema temporalmente, los expertos están preocupados de que la carrera en el campo de la inteligencia artificial esté obligando a las empresas a lanzar modelos sin las pruebas suficientes. Aunque este incidente parece divertido, se señala que en el futuro, comportamientos incontrolados similares podrían tener consecuencias mucho más graves y peligrosas.
¡Lee “Zamin” en Telegram!
