Una nueva era en el mercado de la IA: General Compute obtiene 400 millones de dólares de inversión

Con el desarrollo de las tecnologías de inteligencia artificial (IA), los actores del mercado se centran ahora no solo en el entrenamiento de modelos, sino también en la fase de ejecución eficiente (inferencia). La startup General Compute ha obtenido 400 millones de dólares en crédito de la firma de inversión Upper90. La particularidad de este acuerdo es que podría ser la primera transacción financiera importante en la historia garantizada por chips de inferencia especializados. Así lo informa Techcrunch.com informa .

Hasta ahora, el mercado de la IA se centraba principalmente en los costosos procesadores gráficos (GPU) de empresas como NVIDIA. Sin embargo, los chips SambaNova utilizados por General Compute están diseñados para ejecutar modelos listos para usar de forma más rápida y económica. Según TechCrunch, el mercado busca ahora desplegar modelos de código abierto (open-source) en infraestructuras rentables, lo que supone una alternativa a los costosos servicios de gigantes como OpenAI o Anthropic.

Ventajas de los chips de inferencia y nueva estrategia

Fundada por Finn Puklowski, General Compute tiene como objetivo crear una «neocloud» dedicada exclusivamente a cargas de trabajo de IA, a diferencia de los servicios en la nube generales como AWS o Azure. Los chips SN50 de la compañía destacan por su eficiencia energética y no requieren costosos sistemas de refrigeración líquida. Esto permite una instalación más rápida de estos chips en diversos centros de datos.

Los representantes de la empresa señalan que los nuevos chips pueden realizar el proceso de inferencia 16 veces más rápido que los sistemas en la nube basados en GPU. Este indicador es crucial para las empresas que utilizan aplicaciones de IA en tiempo real, ya que el costo y la velocidad de cada solicitud (token) afectan directamente la eficiencia empresarial.

Cambios en el mercado de inversión

El cofundador de Upper90, Billy Libby, trabajó anteriormente en Goldman Sachs y en 2021 inició la práctica de otorgar créditos garantizados por chips GPU. En aquel entonces, los bancos tradicionales evitaban tales transacciones debido a la rápida obsolescencia de los chips y al alto nivel de riesgo. Aunque las GPU de NVIDIA dominan hoy el mercado, Upper90 predice que la próxima ola estará vinculada a los chips de inferencia especializados.

Actualmente, el interés por nuevos fabricantes de chips como Groq y Cerebras está aumentando. Además, nuevos modelos como Kimi's K3 han demostrado que pueden competir con los productos de los laboratorios más punteros en tareas de codificación y complejidad. Esto aumenta aún más la demanda de infraestructuras que soporten modelos de código abierto.

En conclusión, este importante acuerdo entre General Compute y Upper90 demuestra que la infraestructura de inteligencia artificial se está diversificando. Ahora, no solo los superordenadores, sino también los sistemas especializados que realizan tareas cotidianas de forma rápida y económica se están convirtiendo en el eje principal de la carrera tecnológica global.