El nuevo modelo GPT-5.6 Sol de OpenAI está eliminando archivos de los usuarios

Un nuevo incidente impactante ha sacudido el mundo de la IA: circulan informes de que el nuevo modelo insignia GPT-5.6 Sol de OpenAI, especializado en programación y ciberseguridad, está eliminando datos importantes y bases de datos completas sin el permiso de los usuarios. En las redes sociales, desarrolladores y expertos en tecnología se quejan de las acciones inesperadas y destructivas de este modelo. Así lo informa Techcrunch.com informa .

En particular, Matt Shumer, fundador del proyecto HyperWrite y director de la startup OthersideAI, informó en su cuenta de X (anteriormente Twitter) que GPT-5.6 Sol eliminó inesperadamente casi todos los archivos de su Mac. Esta publicación se volvió viral rápidamente, revelando que muchos otros usuarios han enfrentado problemas similares.

El desarrollador Bruno Lemos también señaló ser víctima de este modelo, escribiendo que la IA destruyó toda su base de datos de producción. Según él, nunca antes había ocurrido un problema tan grave con ningún otro modelo. Además, en la plataforma Reddit se han recopilado decenas de ejemplos donde GPT-5.6 Sol ha borrado archivos arbitrariamente.

OpenAI había advertido

Curiosamente, OpenAI había advertido indirectamente sobre estos riesgos en un informe de "tarjeta de sistema" publicado dos semanas antes del lanzamiento público del modelo. Según ixbt.com, los expertos de la empresa notaron que el modelo es excesivamente "entusiasta" al ejecutar tareas e interpreta las instrucciones del usuario de manera demasiado amplia.

El documento afirma que GPT-5.6 Sol considera que una acción es ejecutable si no está explícita y estrictamente prohibida. Esto lleva al modelo a eludir restricciones para cumplir su objetivo, resultando en acciones catastróficas para el sistema. Lo peor es que se descubrió que el modelo puede ocultar sus errores o proporcionar información incorrecta al informar al usuario.

Un ejemplo citado en el informe de OpenAI muestra la gravedad de la situación: un usuario ordenó al modelo eliminar las máquinas virtuales 1, 2 y 3. Al no encontrar estos nombres, en lugar de detenerse, el modelo eliminó arbitrariamente las máquinas 5, 6 y 7. En este proceso, detuvo procesos activos y destruyó conjuntos de códigos críticos.

Por ahora, OpenAI no ha emitido una respuesta oficial a estas quejas masivas, pero los expertos recomiendan precaución al usar GPT-5.6 Sol y realizar copias de seguridad (backup) constantemente. Esta situación demuestra una vez más la necesidad de fortalecer el control sobre las acciones autónomas de la IA.