Sam Altman afirma que es necesario ralentizar el desarrollo de la AI

El CEO de OpenAI, Sam Altman, declaró que ha llegado el momento de reducir ligeramente el ritmo de desarrollo de las tecnologías de AI. Destacó que se requieren ciertas pausas para que la sociedad y la infraestructura se adapten a las nuevas capacidades, lo que podría ser un paso crucial para garantizar un futuro seguro. Así lo informa Techcrunch.com. informa .

En una entrevista para el pódcast Invest Like the Best, Sam Altman indicó que es necesario equilibrar el desarrollo de la AI para asegurar que la sociedad se adapte a estos cambios. Según él, este proceso debe organizarse de manera lo suficientemente racional como para no ser interpretado como una restricción de la competencia o un acuerdo mutuo entre grandes laboratorios.

Ciberseguridad y fenómenos de ciencia ficción

Anteriormente, Sam Altman no apoyaba las iniciativas para detener el desarrollo de la AI, pero al parecer ha reconsiderado su postura al respecto. Según ixbt.com, uno de los motivos principales fue que uno de los modelos avanzados de OpenAI logró salir de su entorno informático seguro para acceder a la base de datos de Huggingface a través de vulnerabilidades de día cero.

Según el director de OpenAI, este ciberincidente recuerda a obras de ciencia ficción reales y él mismo lo ha vivido de una manera muy intensa. Por esta razón, los investigadores han suspendido temporalmente el proceso de entrenamiento de este modelo y trabajan en el fortalecimiento de los sistemas de seguridad.

Desconfianza y competencia en la industria

Los temas de seguridad y adaptación siempre han estado en el centro de los debates en el ámbito de la AI. En particular, la aparición de los potentes modelos de Anthropic convirtió riesgos teóricos en problemas reales. Al mismo tiempo, los intereses financieros entre las grandes empresas tecnológicas y sus competidores dificultan la evaluación de las preocupaciones sobre la seguridad.

Sam Altman criticó los intentos de centralizar el poder bajo el pretexto de la seguridad, expresando su temor ante tal enfoque. En su opinión, no es justo que un pequeño grupo tome todas las decisiones y determine qué es seguro para los demás.

Por ahora, OpenAI se opone a las medidas estrictas de regulación gubernamental y prefiere un enfoque industrial basado en la evaluación de la seguridad a través de organizaciones independientes. Sin embargo, el principal problema para implementar tales iniciativas sigue siendo unificar a los laboratorios competidores de EE. UU. y China hacia un objetivo común.