Mac Studio M5 Ultra : 512 Go de mémoire unifiée sur le bureau

Apple vient d'annoncer le nouveau Mac Studio avec puces M5 Max et M5 Ultra, et la configuration haut de gamme — 512 Go de mémoire unifiée, prévue pour la fin octobre — est un tournant pour ceux qui veulent faire tourner des modèles frontier-class en local, sans cloud et sans dépendre d'une API. Pour la première fois, un desktop de grand public dispose de suffisamment de mémoire pour charger des modèles MoE de plusieurs centaines de milliards de paramètres, en 4 bits, avec un contexte large. Dans cet article : ce qui change, les calculs de vitesse, le comparatif de coût avec la DGX Station de NVIDIA et quand le Mac est vraiment le bon choix. Sources primaires : l'annonce officielle d'Apple (Apple Newsroom) et la fiche technique.

Le nouveau Mac Studio en bref

Le Mac Studio arrive en deux familles de puces :

• M5 Max : 18 cœurs CPU, jusqu'à 40 cœurs GPU avec Neural Accelerators, jusqu'à 128 Go de mémoire unifiée. À partir de 2 499 USD.
• M5 Ultra : jusqu'à 36 cœurs CPU, jusqu'à 80 cœurs GPU, jusqu'à 512 Go de mémoire unifiée à 1,2 To/s. À partir de 5 499 USD ; la configuration 512 Go coûte 9 999 USD et arrive fin octobre, après la mise en vente du reste de la gamme le 22 septembre (précommandes ouvertes depuis le 25 août).

Apple mesure le saut de génération à jusqu'à 4,3 fois plus rapide sur les charges d'inférence, grâce aux Neural Accelerators intégrés directement dans les cœurs GPU. Wi-Fi 7 et Bluetooth 6 font leur entrée sur le Mac Studio.

M5 Ultra : la première puce à quatre dies

Le M5 Ultra est la première puce Apple construite sur quatre dies : deux M5 Max unis par la technologie UltraFusion, présentés au système comme un seul processeur. La conséquence pratique pour l'IA locale, c'est la mémoire : jusqu'à 512 Go unifiés, partagés entre CPU, GPU et Neural Accelerators, avec 1,2 To/s de bande passante. Plus besoin de copier les données entre CPU et VRAM : le modèle, le contexte et les données du RAG vivent dans le même pool. C'est le principe de la mémoire unifiée poussé à sa limite la plus extrême.

Ce qui tient dedans : des MoE de 100 à 480B

En 4 bits, chaque milliard de paramètres pèse environ 0,5 Go. Le compte :

• 100B au total (MoE) : environ 50 Go de poids → d'immenses marges pour le contexte long et le RAG.
• 200B : environ 100 Go.
• 400B : environ 200 Go → il reste de la place pour des contextes de plusieurs centaines de milliers de tokens.
• 480B : environ 240 Go → ça entre, mais le contexte se gère.
• 560B (le cas limite) : environ 280 Go en 4 bits → ça tient dans 512 Go avec de la marge ; en 8 bits, non.

Un modèle concret de cette classe : Ling 3.1 Flash d'inclusionAI — 560B au total, 25B actifs par token, contexte jusqu'à 1M de tokens, licence MIT. En 4 bits, il tient entier dans un Mac Studio 512 Go ; c'est exactement le type de modèle MoE qui demanderait un cluster de GPU sur du matériel classique.

À quelle vitesse : le compte de la bande passante

Dans les modèles MoE, la vitesse de décodage est dominée par la bande passante : le goulot est la mémoire lue à chaque token. Ordres de grandeur (estimations de physique, pas des benchmarks officiels) :

• MoE avec 25B actifs en 4 bits (~12,5 Go par token) : 1,2 To/s ÷ 12,5 Go → une cinquantaine de tokens par seconde en théorie, une vingtaine-trentaine en pratique avec les overheads logiciels.
• Dense 200B en 4 bits (~100 Go par token) : une dizaine de tokens par seconde en théorie, 5 à 8 en pratique.

Apple annonce jusqu'à 4,3 fois plus rapide que la génération précédente. Et s'il faut encore plus : un cluster de quatre Mac Studio, reliés en Thunderbolt 5 avec RDMA, atteint jusqu'à 3 fois l'inférence d'une unité seule.

Mac Studio 512 Go contre DGX Station : le comparatif de coût

Le DGX Station de NVIDIA (GB300 Grace Blackwell Ultra) embarque jusqu'à 748 Go de mémoire cohérente, jusqu'à 20 pétaflops en FP4 et un CPU Grace 72 cœurs reliés par NVLink-C2C : annoncé au GTC en mars 2025 (page produit, communiqué officiel), avec une version pour Windows annoncée le 1er juin 2026, prévue pour fin d'année. Le prix est de l'ordre de 99 000 USD : environ dix fois le prix du Mac Studio 512 Go à 9 999 USD.

En mémoire utile, les deux systèmes sont de la même classe (512 Go contre 748 Go), mais le DGX Station a une puissance de calcul nettement supérieure en pétaflops. Le Mac gagne sur le prix, la consommation, le silence et la simplicité unifiée — et sur la scalabilité : quatre unités en cluster, c'est environ 2 To de mémoire pour moins de 40 000 USD, dans une fourchette accessible à un seul professionnel ou une petite structure technique.

Quand le Mac est le bon choix

• Tu es en usage desktop, pas serveur : tu veux un MoE de 100 à 560B en 4 bits avec contexte long, sans gérer un rack, un bruit de data center ou un contrat de location. Le Mac Studio 512 Go est le seul desktop qui le fait seul.
• Le budget est sous 10-20k USD et tu comptes le coût par token à zéro : pas d'appels API, pas d'abonnements, le modèle est à toi.
• Tu veux monter en puissance de façon prévisible : deux, trois, quatre unités en RDMA, sans changer d'écosystème logiciel.

Le DGX Station reste le choix quand il faut des pics de calcul (gros préfills, FP4, écosystème CUDA complet) ou 748 Go de mémoire cohérente sur une seule machine.

En pratique

1. Les runtimes d'IA locale (Ollama, LM Studio, mlx-lm) tournent nativement sur Apple Silicon : tu installes le runtime, tu télécharges le modèle, tu lances.
2. Commence par une quantification en 4 bits (GGUF) du modèle qui t'intéresse et fais le compte : poids + contexte attendu + marge < 512 Go.
3. Si le modèle est MoE avec peu de paramètres actifs (type Ling 3.1 Flash ou les grands MoE dispersés), vise une vitesse de conversation. S'il est dense et lourd, accepte le compromis : la mémoire est là, la vitesse dépend de la bande passante.
4. Garde un œil sur la configuration 512 Go : c'est celle qui arrive fin octobre. Le reste de la gamme est déjà commandable.

Article généré par IA