Llama 3 e Llama 4: la famiglia open di Meta, quale modello gira sul vostro hardware

Se nel giugno 2024 Llama 3 sembrava il punto di arrivo dei modelli aperti, oggi la famiglia di Meta è la strada principale verso l'IA locale seria: tre generazioni in un anno e mezzo, un cambio d'architettura (MoE), un salto dal contesto di 8K a 10M di token, e una licenza che per le aziende italiane significa una cosa sola — potete usarla in casa gratis, senza chiedere nulla.

Questo articolo è la mappa della famiglia Llama per chi la deve usare davvero: cosa c'è, cosa gira sul vostro hardware, e quale conviene scegliere.

La famiglia, in una riga per modello

Modello	Rilascio	Architettura	Parametri attivi	Contesto	Note
Llama 3.2 1B / 3B	set 2024	dense	1B / 3B	128K	on-device, assistenti embedded
Llama 3.1 8B	lug 2024	dense	8B	128K	il cavallo di battaglia da 8 GB
Llama 3.3 70B	dic 2024	dense	70B	128K	il 70B "di lavoro"
Llama 4 Scout (17B×16E)	apr 2025	MoE	17B su 109B	10M	multimodale (testo+immagine)
Llama 4 Maverick (17B×128E)	apr 2025	MoE	17B su 400B	1M	top di gamma, non per il desktop

Due cose saltano agli occhi. La prima: Scout è un MoE — per ogni token lavora solo un sottoinsieme di esperti (17 miliardi di parametri attivi su 109 totali), quindi è veloce come un 17B e capace molto più di un 70B dense, ma occupa la RAM come un 109B. La seconda: il contesto è diventato una feature — 10M di token su Scout significa che, in teoria, tenete in gioco un intero archivio di documenti.

Cosa gira sul vostro hardware

La regola è la stessa di sempre (il calcolo completo): pesi quantizzati + KV cache, con un margine per il sistema. In pratica:

Modello (Q4)	RAM/VRAM necessaria	Su che hardware
Llama 3.2 3B	4–6 GB	laptop qualsiasi, GPU integrati, fino al Raspberry Pi 5 16GB (lento)
Llama 3.1 8B	8–10 GB	GPU 12GB o Mac con 16GB
Llama 3.3 70B	44–50 GB	2×24GB, Strix Halo 128GB, Mac con 64GB+
Llama 4 Scout Q4	~67 GB (Q4_K_M)	2×24GB a fatica, Strix Halo 128GB, Mac 96GB+

Il punto non banale: Scout non è il modello per il primo computer, ma è il modello che fa cambiare idea a chi ha 128 GB. Con la Mac Studio M5 Ultra o un mini-PC Strix Halo, 109B MoE a 17B attivi significa velocità da 17B con qualità da frontiera economica — il miglior rapporto qualità/presto per euro di RAM che esista oggi in locale. Per i 109B però la banda passa di 800 GB/s è il collo di bottiglia: sotto i 300 GB/s (tipico dual 24GB) scendete a 5–8 tok/s, usabile ma non brillante.

Come si usa

Da Ollama, due comandi per il modello da lavoro e uno per Scout:

ollama pull llama3.1:8b      # il 8B da tutti i giorni
ollama pull llama4:scout     # ~67GB, richiede RAM dedicata

ollama run llama3.1:8b "Riassumi questo contratto in 5 punti"

Da codice, è la stessa API OpenAI-compatibile di sempre (porta 11434):

from openai import OpenAI
client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")
r = client.chat.completions.create(
    model="llama3.1:8b",
    messages=[{"role": "user", "content": "Elenca gli obblighi dell'art. 30"}])
print(r.choices[0].message.content)

Se l'app usa già il SDK OpenAI o Anthropic, cambiate una riga e i vostri modelli Meta girano in casa: Ollama vs LM Studio spiega quale runtime scegliere.

La licenza, tradotta per l'azienda italiana

La famiglia Llama 3 è rilasciata con la Llama 3 Community License; Llama 4 con la Llama 4 Community License. Per chi non è Meta:

• uso commerciale: libero, incluso il prodotto venduto;
• vincolo reale: sopra 700 milioni di utenti attivi mensili serve un accordo separato con Meta — soglia che nessuna azienda italiana si avvicinerà a toccare;
• resta il marchio: "Llama" non può diventare il nome del vostro prodotto;
• no open source in senso stretto (non è OSI-approved), ma per l'uso aziendale è de facto open.

Per lo studio, il commercialista, l'assicuratore che vuole un modello su documenti interni: licenza senza sorprese. Cosa cambia in fatto di GDPR lo vediamo nell'articolo dedicato — in breve: con Llama in casa, il trasferimento extra-UE sparisce.

Cosa scegliere oggi

• Primo computer, 16GB → Llama 3.1 8B: il miglior compromesso qualità/velocità sotto i 128K.
• Budget 24–48GB (2×GPU o Mac) → Llama 3.3 70B per il testo, o Scout se vi interessa la visione.
• 128GB+ (Strix Halo, Mac Studio) → Scout: il modello da mostrare al cliente.
• Embedded/edge → 3.2 3B, il 1B per i dispositivi più stretti.
• Solo curiosità, niente RAM → il 8B su Raspberry Pi 5 fa comunque il suo lavoro.

La famiglia Llama non è più "il modello di Meta": è la scala di grandezze di riferimento su cui misurare tutto il resto, e il fatto che la 3.1 8B del 2024 e la 4 Scout del 2025 girino sulla stessa riga ollama pull dice quanto si è raddrizzata la curva.

Fonti

• Meta AI — The Llama 4 herd
• Llama 4 Community License Agreement
• Hugging Face — Llama-4-Scout-17B-16E
• Ollama library — llama4

Articolo generato con IA