Google présente le nouveau modèle d'IA multimodal Gemma 4 12B

Google a dévoilé le nouveau modèle Gemma 4 12B, conçu pour fonctionner localement sur les ordinateurs portables et les appareils aux ressources de calcul limitées. Ce système d'intelligence artificielle multimodal sert de lien intermédiaire entre le compact E4B et la grande architecture MoE de 26 milliards de paramètres. La caractéristique principale du modèle est qu'il s'agit du premier système de taille moyenne de sa catégorie à prendre en charge nativement les signaux audio. Selon Ixbt.com rapporte .

Selon les développeurs, Gemma 4 12B peut traiter les images et l'audio sans encodeurs séparés traditionnels. À la place, les signaux multimodaux sont intégrés directement dans le modèle de langage principal. Pour le traitement des images, un module léger basé sur des transformations matricielles est utilisé à la place d'un encodeur visuel séparé, ce qui réduit considérablement les coûts de calcul.

Les signaux audio sont projetés dans l'espace des jetons de texte sous leur forme brute, sans aucun encodeur. Malgré une architecture simplifiée, Gemma 4 12B affiche des performances proches de celles des grands modèles de 26 milliards de paramètres dans les benchmarks standard. De plus, il est moins exigeant en mémoire et fonctionne sans problème sur les appareils disposant de 16 Go de VRAM.

Le modèle prend en charge le mécanisme Multi-Token Prediction (MTP), qui réduit la latence lors de la génération de texte, et est conçu pour des scénarios d'agents complexes. Selon Google, la famille Gemma a été téléchargée plus de 150 millions de fois à ce jour. Le nouveau modèle est distribué sous la licence Apache 2.0, permettant aux utilisateurs de profiter de capacités d'IA avancées directement sur leurs appareils sans services cloud.