Mac Studio M5 Ultra: 512GB di memoria unificata sul desktop

Apple ha appena presentato il nuovo Mac Studio con chip M5 Max e M5 Ultra, e la configurazione top di gamma — 512GB di memoria unificata, in arrivo a fine ottobre — è un punto di svolta per chi vuole portare modelli frontier-class in locale, senza cloud e senza dipendere da un'API. Per la prima volta esiste un desktop di consumo con abbastanza memoria per caricare interi modelli MoE da centinaia di miliardi di parametri, a 4 bit, con contesto ampio. In questo articolo: cosa cambia, i conti sulla velocità, il confronto di costo con la DGX Station di NVIDIA e quando il Mac è davvero la scelta giusta. Fonti primarie: l'annuncio ufficiale di Apple (Apple Newsroom) e la scheda tecnica.

Il nuovo Mac Studio in sintesi

Il Mac Studio arriva in due famiglie di chip:

• M5 Max: 18 core CPU, fino a 40 core GPU con Neural Acceleratori, fino a 128GB di memoria unificata. A partire da 2.499 USD.
• M5 Ultra: fino a 36 core CPU, fino a 80 core GPU, fino a 512GB di memoria unificata a 1,2 TB/s. A partire da 5.499 USD; la configurazione da 512GB costa 9.999 USD e arriva a fine ottobre, dopo che il resto della gamma sarà in vendita dal 22 settembre (preordini aperti dal 25 agosto).

Apple misura il salto generazionale fino a 4,3 volte più prestazioni rispetto alla generazione precedente nei carichi di inferenza, grazie ai Neural Acceleratori integrati direttamente nei core GPU. Wi-Fi 7 e Bluetooth 6 debuttano sul Mac Studio.

M5 Ultra: il primo chip a quattro die

Il M5 Ultra è il primo chip Apple costruito con quattro die: due M5 Max uniti dalla tecnologia UltraFusion, che li presenta al sistema come un unico processore. La conseguenza pratica per l'IA locale è la memoria: fino a 512GB unificati, condivisi tra CPU, GPU e Neural Acceleratori, con una banda passante di 1,2 TB/s. Non servono copie dei dati tra CPU e VRAM: modello, contesto e dati del RAG vivono nello stesso pool. È il principio della memoria unificata portato al suo limite più estremo.

Cosa ci sta dentro: MoE da 100 a 480B

A 4 bit, ogni miliardo di parametri pesa circa 0,5GB. I conti:

• 100B totali (MoE): circa 50GB di pesi → margini enormi per contesto lungo e RAG.
• 200B: circa 100GB.
• 400B: circa 200GB → resta spazio per contesti di centinaia di migliaia di token.
• 480B: circa 240GB → entra, ma il contesto va gestito.
• 560B (il caso limite): circa 280GB a 4 bit → entra in 512GB con margine; a 8 bit no.

Un modello concreto di questa taglia è Ling 3.1 Flash di inclusionAI: 560B totali, 25B attivi per token, contesto fino a 1M di token, licenza MIT. A 4 bit ci sta intero in un Mac Studio da 512GB, ed è esattamente il tipo di modello MoE che su hardware tradizionale richiederebbe un cluster di GPU.

A che velocità: i conti della banda passante

Nei modelli MoE la velocità di decode è dominata dalla banda passante: il collo di bottiglia è la memoria letta a ogni token. Ordini di grandezza (stime di fisica, non benchmark ufficiali):

• MoE con 25B attivi a 4 bit (~12,5GB per token): 1,2 TB/s ÷ 12,5GB → una cinquantina di token al secondo in teoria, una ventina-trentina in pratica con gli overhead software.
• Dense 200B a 4 bit (~100GB per token): una decina di token al secondo in teoria, 5-8 in pratica.

Apple dichiara fino a 4,3 volte più velocità rispetto alla generazione precedente. E se serve ancora di più: un cluster di quattro Mac Studio, collegati via Thunderbolt 5 con RDMA, arriva fino a 3 volte l'inferenza di un'unità singola.

Mac Studio 512GB contro DGX Station: il confronto di costo

Il DGX Station di NVIDIA (GB300 Grace Blackwell Ultra) porta fino a 748GB di memoria coerente, fino a 20 petaflop in FP4 e una CPU Grace a 72 core collegati via NVLink-C2C: annunciato a GTC nel marzo 2025 (pagina prodotto, comunicato ufficiale), con una versione per Windows annunciata il 1 giugno 2026 in arrivo a fine anno. Il listino è nell'ordine dei 99.000 USD: circa dieci volte il prezzo del Mac Studio da 512GB a 9.999 USD.

In memoria utile i due sistemi sono nella stessa taglia (512GB contro 748GB), ma il DGX Station ha una potenza di calcolo nettamente superiore in petaflop. Il Mac vince su prezzo, consumi, silenziosità e semplicità unificata — e sulla scalabilità: quattro unità in cluster significano circa 2TB di memoria per meno di 40.000 USD, restando in una fascia accessibile a un singolo professionista o a una piccola struttura tecnica.

Quando il Mac è la scelta giusta

• Sei un uso desktop, non un server: vuoi un MoE da 100 a 560B a 4 bit con contesto lungo, senza gestire un rack, un rumore da data center o un contratto di noleggio. Il Mac Studio da 512GB è l'unico desktop che lo fa da solo.
• Il budget è sotto i 10-20k USD e conti il costo per token a zero: niente chiamate API, niente abbonamenti, il modello è tuo.
• Vuoi scalare in verticale in modo prevedibile: due, tre, quattro unità con RDMA, senza cambiare ecosistema software.

Il DGX Station resta la scelta quando servono i picchi di calcolo (prefill enormi, FP4, ecosistema CUDA completo) o 748GB di memoria coerente su una singola macchina.

In pratica

1. I runtime per IA locale (Ollama, LM Studio, mlx-lm) girano nativamente su Apple Silicon: installi il runtime, scarichi il modello, esegui.
2. Parti da una quantizzazione a 4 bit (GGUF) del modello che ti interessa e fai il conto: pesi + contesto atteso + margine < 512GB.
3. Se il modello è MoE con pochi parametri attivi (tipo Ling 3.1 Flash o i grandi MoE sparsi), aspettati velocità di conversazione. Se è dense e pesante, aspettati un compromesso: la memoria c'è, la velocità dipende dalla banda.
4. Tieni d'occhio la configurazione da 512GB: è la che arriva a fine ottobre. Il resto della gamma si può già ordinare.

Articolo generato con IA