IA de 27 mil millones de parámetros ejecutada en el iPhone 18 Pro

El futuro buque insignia de Apple, el iPhone 18 Pro, ha mostrado resultados sin precedentes en la ejecución de capacidades de IA directamente en el dispositivo. Según ixbt.com, el entusiasta de la tecnología Adrien Grondin ha logrado ejecutar con éxito de forma totalmente local el modelo de lenguaje masivo Bonsai-27B, que cuenta con 27 mil millones de parámetros. Así lo informa el medio Ixbt.com.

Durante las pruebas, se reveló que la velocidad de generación de texto y consultas en el nuevo smartphone es casi el doble de rápida en comparación con la generación anterior, el iPhone 17 Pro. El experto destaca que el procesador de nueva generación desempeñó un papel decisivo para lograr este resultado.

Las capacidades del nuevo chip Apple A20 Pro

Descrito por expertos y entusiastas como una «fuerza temible», el nuevo procesador Apple A20 Pro está equipado por primera vez en la historia de los dispositivos móviles con dos procesadores neuronales de 16 núcleos. Esta arquitectura garantiza una alta eficiencia en tareas de IA.

El subsistema de memoria del dispositivo también ha sido objeto de una modernización importante. Los modelos iPhone 18 Pro y iPhone 18 Pro Max cuentan con un bus de 96 bits y 12 GB de memoria RAM LPDDR5X con un ancho de banda de 115,2 GB/s.

Las ventajas de la IA local

Es bien sabido que el ancho de banda de la memoria RAM es uno de los factores más críticos al ejecutar grandes modelos de lenguaje. Las especificaciones técnicas del nuevo smartphone permiten utilizar la IA directamente en el dispositivo sin necesidad de recurrir a servidores en la nube.

Las pruebas realizadas con el modelo Bonsai demuestran que se acerca una era en la que las consultas de los usuarios podrán procesarse sin conexión a Internet, manteniendo una privacidad total. Esto marca un nuevo nivel para las tecnologías de redes neuronales en dispositivos móviles.