Une IA de 27 milliards de paramètres lancée sur l'iPhone 18 Pro

Le futur fleuron d'Apple, l'iPhone 18 Pro, a démontré des résultats sans précédent dans l'exécution locale des capacités d'IA. Selon ixbt.com, le passionné de technologie Adrien Grondin a réussi à faire tourner entièrement en local le modèle de langage massif Bonsai-27B, doté de 27 milliards de paramètres, sur le smartphone. C'est ce que rapporte le site Ixbt.com.

Le test a révélé que la vitesse de génération de texte et de requêtes sur le nouveau smartphone est presque deux fois plus élevée que celle de la génération précédente, l'iPhone 17 Pro. L'expert souligne que le processeur de nouvelle génération a joué un rôle décisif dans l'obtention de ce résultat.

Les capacités de la nouvelle puce Apple A20 Pro

Qualifié de « puissance redoutable » par les experts et les passionnés, le nouveau processeur Apple A20 Pro est équipé pour la première fois dans l'histoire des appareils mobiles de deux processeurs neuronaux à 16 cœurs. Cette architecture assure une efficacité élevée pour les tâches d'IA.

Le sous-système mémoire de l'appareil a également fait l'objet d'une modernisation majeure. Les modèles iPhone 18 Pro et iPhone 18 Pro Max sont dotés d'un bus de 96 bits et de 12 GB de RAM LPDDR5X avec une bande passante de 115,2 GB/s.

Les avantages de l'IA locale

Il est bien connu que la bande passante de la mémoire vive est l'un des facteurs les plus critiques pour l'exécution de grands modèles de langage. Les spécifications techniques du nouveau smartphone permettent d'utiliser l'IA directement sur l'appareil sans recourir à des serveurs cloud.

Les tests effectués avec le modèle Bonsai montrent qu'une ère approche où les requêtes des utilisateurs pourront être traitées sans connexion Internet, tout en garantissant une confidentialité totale. Cela témoigne du passage à une nouvelle étape pour les technologies de réseaux neuronaux sur les appareils mobiles.