Advertencia de Anthropic: La inteligencia artificial al borde del desarrollo autónomo

La empresa estadounidense Anthropic advierte que el ritmo de desarrollo de la inteligencia artificial (IA) se está acelerando rápidamente. Los expertos creen que, en un futuro cercano, los agentes de IA podrían alcanzar un nivel en el que puedan autoconstruirse, entrenarse y mejorarse sin intervención humana. Por lo tanto, la empresa recomienda ralentizar ligeramente el desarrollo de esta tecnología. Cointelegraph.com informa .

En una publicación de blog publicada por Marina Favaro, directora del Instituto Anthropic, y Jack Clark, uno de los cofundadores de la empresa, se destaca que los agentes de IA ya están ejecutando código de forma independiente y delegando tareas complejas a otros agentes. "Durante gran parte de la historia de la IA, los humanos controlaron cada paso. Pero ahora estamos confiando una parte significativa del desarrollo a los propios sistemas de IA, lo que está acelerando considerablemente nuestro trabajo", dicen los expertos.

Según los informes, el modelo Claude creado por Anthropic está escribiendo actualmente casi el 80 % del código de software añadido a la base de código de la empresa. Si la calidad del código escrito por humanos e IA se iguala, las personas podrían dejar de escribir código por completo y centrarse únicamente en su revisión. Sin embargo, si los humanos no logran mantener el ritmo de la revisión del código creado por Claude, esto podría convertirse en un cuello de botella en el desarrollo general del sistema.

Esta tendencia, combinada con suficiente potencia de cálculo, podría llevar a la aparición de un sistema de IA capaz de crear independientemente un "sucesor" más inteligente que él mismo. Anteriormente, OpenAI también declaró que estaba realizando investigaciones sobre la auto-mejora recursiva y enfatizó la importancia de mantener este proceso alineado con la supervisión y los valores humanos.

Según los representantes de Anthropic, la mejora de los modelos de IA se está duplicando en velocidad no cada siete meses, sino cada cuatro meses. Esto plantea el riesgo de que la IA se escape del control antes de que muchas instituciones estén preparadas. Por lo tanto, ralentizar el ritmo de desarrollo se considera la forma más adecuada de estudiar las enormes consecuencias de la tecnología.