ChatGPT en el centro de la polémica: el WSJ publica información controvertida

El influyente periódico estadounidense The Wall Street Journal ha publicado información controvertida sobre la seguridad de la inteligencia artificielle. Según el artículo, algunos usuarios intentaron obtener información peligrosa sobre armas biológicas y venenos a través de ChatGPT, y se citan opiniones de expertos que afirman que en algunos casos el sistema proporcionó respuestas detalladas.

Según el artículo, tras la actualización de los modelos de OpenAI, varios usuarios enviaron consultas sobre temas peligrosos relacionados con la biología y la química. Los expertos señalaron que algunas respuestas eran técnicamente precisas.

Al mismo tiempo, OpenAI informó que las cuentas relacionadas con consultas peligrosas están siendo bloqueadas, los modelos se reentrenan continuamente y se están endureciendo las restricciones de seguridad. Representantes de la empresa señalan que se han introducido filtros estrictos en los sistemas actuales para evitar la divulgación de dicha información.

El WSJ escribe que actualmente no existe una ley federal única en EE. UU. que obligue a las empresas de inteligencia artificial a informar obligatoriamente sobre tales consultas o a enviarlas automáticamente a las fuerzas del orden.

La publicación también escribió que algunos usuarios que buscaban información peligrosa recurrieron a otros grandes chatbots, aunque no se proporcionó información exacta sobre las respuestas que obtuvieron.

Empresas como OpenAI, Anthropic y Google destacan que están cooperando con los gobiernos y expertos independientes en seguridad para prevenir el uso malicioso de la inteligencia artificial.

Expertos consideran que debido al rápido desarrollo de las tecnologías de inteligencia artificial, la cuestión de la seguridad se está convirtiendo en uno de los principales temas de debate a nivel mundial. Por ello, las grandes empresas tecnológicas afirman que trabajan para fortalecer regularmente los mecanismos de protección de los modelos.