Ollama vient de réécrire son moteur Apple silicon. La génération M5 est la véritable histoire

Depuis un an, exécuter de grands modèles de langage localement sur un Mac signifiait accepter un compromis : la commodité de la mémoire unifiée d'Apple contre un écart de performances constant par rapport aux machines équipées de NVIDIA. L'aperçu d'Ollama, annoncé le 30 mars 2026, vise à combler cet écart en reconstruisant son backend Apple silicon sur MLX, le framework d'apprentissage automatique d'Apple.

Le résultat n'est pas une amélioration progressive. Sur un Mac Studio M5 Ultra avec 512 Go de mémoire unifiée, Ollama 0.19 atteint une vitesse de préremplissage de 1 851 tokens par seconde et un taux de décodage de 134 tokens par seconde en utilisant le modèle Qwen3.5-35B-A3B en quantification int4. Ces chiffres, issus de benchmarks menés le 29 mars, doublent plus que ce que l'implémentation précédente basée sur llama.cpp délivrait sur le même matériel.

Pourquoi MLX change la donne

L'avantage clé de MLX sur Apple silicon est sa capacité à exploiter l'architecture mémoire unifiée qui a longtemps été un argument de vente mais un goulot d'étranglement logiciel. Les modèles qui devaient auparavant déplacer des données entre les régions mémoire CPU et GPU peuvent désormais fonctionner sur un seul pool mémoire avec une latence significativement réduite. Sur les puces M5, M5 Pro et M5 Max, Ollama exploite également les nouveaux accélérateurs neuronaux GPU, des blocs silicium dédiés conçus spécifiquement pour les opérations matricielles de type transformer.

Ce n'est pas simplement un gain de vitesse. Le backend MLX apporte la quantification NVFP4 à Ollama pour la première fois. NVFP4, un format développé par NVIDIA mais désormais adopté par MLX, utilise une représentation à virgule flottante sur 4 bits qui préserve davantage la précision du modèle que le schéma Q4_K_M utilisé dans les versions précédentes d'Ollama. Cela importe pour les développeurs qui ont besoin que les résultats d'inférence locale correspondent aux sorties de production des fournisseurs cloud, exactement le cas d'usage que l'équipe d'Ollama a souligné : « Alors que de plus en plus de fournisseurs d'inférence montent en charge en utilisant le format NVFP4, cela permet aux utilisateurs d'Ollama de partager les mêmes résultats que ceux qu'ils obtiendraient dans un environnement de production. »

L'accélérateur d'agent de codage

La deuxième amélioration majeure d'Ollama dans cet aperçu est un système de cache repensé. Les workflows agentiques, où un assistant de codage se ramifie à travers plusieurs appels d'outils chacun avec une longue invite système, ont été un point faible pour l'inférence locale car chaque nouvelle branche déclenche un retraitement complet de l'invite. Ollama réutilise désormais le cache entre les conversations, stocke des points de contrôle intelligents à des emplacements stratégiques dans l'invite et applique une politique d'éviction plus intelligente qui maintient en vie les préfixes partagés plus longtemps, même lorsque des branches plus anciennes sont supprimées.

Pour des outils comme Claude Code, OpenCode ou le open-source OpenClaw, cela signifie moins de temps d'attente pour le traitement de l'invite entre les itérations. Un développeur demandant au modèle de refactoriser une fonction, de tester le résultat, puis d'essayer une approche différente verra les deuxième et troisième tentatives s'exécuter avec une latence de préremplissage quasi nulle si le préfixe de l'invite est partagé.

NVIDIA et Apple, ensemble dans une même pile

L'un des aspects les plus inattendus de cette version est la collaboration entre NVIDIA et Olama sur la pile native d'Apple. La section des remerciements de la version nomme les contributeurs de NVIDIA à la quantification NVFP4, à l'optimiseur de modèle NVFP4, au support CUDA pour MLX, ainsi qu'aux optimisations et tests d'Ollama. Pour une entreprise dont les GPU sont les principaux concurrents d'Apple silicon sur le marché des stations de travail IA, l'implication de NVIDIA signale que NVFP4 devient un format de quantification standard que les chaînes d'outils GPU et Apple silicon doivent prendre en charge.

Cela ouvre également la porte à Ollama pour exécuter des modèles optimisés par l'optimiseur de modèle NVIDIA, un pipeline typiquement réservé aux environnements CUDA, sur du matériel Apple. La question est de savoir combien de temps durera l'exclusivité : l'équipe d'Ollama note que d'autres précisions seront rendues disponibles « en fonction de la conception et de l'intention d'utilisation de la part des partenaires de recherche et matériels d'Ollama. »

Ce que cela signifie pour l'écosystème LLM local

L'aperçu MLX d'Ollama est, pour l'instant, limité à un seul modèle : Qwen3.5-35B-A3B, une architecture MoE de 35 milliards de paramètres qui n'active que 3 milliards de paramètres par token. Le modèle est livré avec des paramètres d'échantillonnage optimisés pour les tâches de codage. Les utilisateurs dotés d'un Mac série M et de plus de 32 Go de mémoire unifiée peuvent le tester immédiatement via ollama run qwen3.5:35b-a3b-coding-nvfp4.

Mais le support étroit du modèle est temporaire. La version indique qu'Olama « travaille activement à supporter les futurs modèles » et introduira un chemin d'importation plus facile pour les ajustements personnalisés. Étant donné que le précédent backend llama.cpp d'Ollama prenait en charge des centaines d'architectures, la branche MLX devrait s'étendre rapidement, en particulier pour la famille de modèles, Qwen, DeepSeek et Llama, qui sont déjà optimisés pour le matériel Apple.

Dans l'ensemble, l'inférence locale sur Mac n'est plus un compromis. Pour les développeurs dont le flux de travail quotidien tourne autour des agents de codage et qui sont prêts à investir dans une machine M5 Ultra, les chiffres de cet aperçu suggèrent une parité avec le matériel NVIDIA grand public pour la première fois. Les six prochains mois détermineront si cette parité se maintient sur davantage de modèles et de charges de travail plus complexes. Pour l'instant, Ollama a tracé une ligne claire : la génération M5 est celle où Apple silicon arrive enfin comme une plateforme d'inférence de première classe.