OpenAI presenta su nuevo modelo Sol: la seguridad de la IA bajo cuestionamiento

OpenAI, líder en el mundo de la IA, ha comenzado a presentar al público su nuevo desarrollo avanzado: el modelo Sol. Se dice que las capacidades de este nuevo modelo están a la par con el sistema Fable de Anthropic. Cabe destacar que Fable fue prohibido temporalmente por el gobierno de EE. UU. por motivos de seguridad. Sin embargo, la rapidez con la que el modelo Sol obtuvo la autorización genera muchas preguntas. Así lo informa Techcrunch.com informa .

Actualmente, en el mundo tecnológico y los círculos políticos, no hay información clara sobre quién verificó la seguridad de este modelo ni bajo qué criterios. Según TechCrunch, incluso los expertos del sector no comprenden cómo funciona el proceso de concesión de licencias del gobierno. Mina Narayanan, analista de la Universidad de Georgetown, señaló que estos procesos carecen de transparencia y que es difícil determinar si las medidas de seguridad que justifican el lanzamiento del modelo son suficientes.

Incertidumbres en los mecanismos de control

Aunque la administración del presidente de EE. UU. ha publicado una hoja de ruta para regular la IA, aún no se han desarrollado requisitos específicos. Según Dean W. Ball, exasesor político en OpenAI, nadie sabe hoy qué requisitos se exigen para obtener una licencia. Esto indica que existen brechas graves en la seguridad de la IA.

Los representantes del gobierno han declarado que no crearán una agencia estricta para la IA, similar a la FDA para alimentos y medicamentos. Por ahora, la responsabilidad recae en el Centro de Estándares e Innovación en IA del Departamento de Comercio de EE. UU. Sin embargo, se espera que para agosto, seis ministerios diferentes definan el proceso de control final.

Relaciones políticas y conflictos de intereses

El CEO de OpenAI, Sam Altman, confirmó en una entrevista con CNBC que habló con funcionarios de alto nivel, como el Secretario de Comercio y el Secretario del Tesoro, antes de lanzar el modelo. Pero qué pruebas técnicas se realizaron durante estas conversaciones sigue siendo un secreto. En su informe de seguridad, la empresa se basa en auditorías de organizaciones externas como UK AISI y SecureBio.

Los observadores creen que los estrechos vínculos de la dirección de OpenAI con representantes del gobierno y las donaciones a campañas políticas podrían haber influido en un trato más suave hacia el modelo Sol. En particular, el presidente de la empresa, Greg Brockman, ha sido señalado como uno de los mayores donantes en los procesos electorales.

Para los usuarios en Uzbekistán, este tipo de noticias también es importante. En un momento en que ChatGPT y otros productos de OpenAI se utilizan ampliamente en nuestro país, el nivel de seguridad de estos modelos y sus principios de manejo de datos afectan directamente la seguridad digital global. Se espera que la popularización del modelo Sol lleve las capacidades de la IA a un nuevo nivel, pero la cuestión de su control sigue abierta.