Mistral vs Gemma: modelli leggeri confrontati

Due famiglie dominano il mondo dei modelli aperti che girano in locale: Mistral, nata in Europa, e Gemma, la famiglia open di Google. Entrambe offrono modelli compatti — da 1 a 27 miliardi di parametri — che funzionano su un PC con una GPU consumer o, nei casi più piccoli, anche solo su CPU. Ma non sono la stessa cosa: architettura, contesto, lingue supportate e licenza cambiano a seconda di quale sceglierai.

In questa guida le mettiamo a confronto famiglia per famiglia, dimensione per dimensione, e ti diamo un metodo per scegliere quella giusta per il tuo hardware e per le tue lingue.

La famiglia Mistral

Mistral è una società europea che pubblica modelli con pesi aperti. La famiglia si è evoluta in modo rapido:

• Mistral 7B v0.1 (2024): il modello che ha lanciato la famiglia. 7,2 miliardi di parametri, contesto di 32K token, supporta 33 lingue tra cui italiano e francese. Due dettagli tecnici lo differenziano da molti modelli equivalenti: l'attention a finestra scorrevole (sliding window), che riduce il consumo di memoria durante l'elaborazione, e l'uso di 8 head di attenzione in chiave-valore (GQA), che rende la cache di attenzione più compatta.
• Mixtral 8x7B (2024): architettura Mixture-of-Experts (MoE) con 46,7 miliardi di parametri totali ma solo ~12,9 miliardi attivi per ogni token. Il risultato è un modello di qualità superiore a un 7B classico, con velocità di generazione vicina a quella di un modello di 13B.
• Ministral 3 (fine 2025): la nuova linea compatta, in dimensioni 3B, 8B e 14B, con supporto multimodale (testo e immagini) e licenza Apache 2.0.
• Mistral Small 4 (2026): modello ibrido che unifica istruzioni, ragionamento e coding in un'unica release, anch'esso Apache 2.0.

Due punti da tenere a mente: la licenza del primo Mistral 7B è la "Mistral Research License", che permette l'uso commerciale ma non è una licenza open standard; i modelli della linea Small/Ministral sono invece Apache 2.0, la licenza più libera tra quelle in uso.

La famiglia Gemma

Gemma è la famiglia di modelli open di Google, costruita sulla stessa tecnologia della serie Gemini. Ha attraversato tre generazioni principali:

• Gemma 1 e Gemma 2 (2024): dimensioni 2B, 9B e 27B. Solide, ma superate dalla generazione successiva.
• Gemma 3 (marzo 2025): le dimensioni più interessanti — 1B, 4B, 12B e 27B — con contesto di 128K token, supporto a oltre 140 lingue e input multimediali (testo e immagini). L'architettura usa il blocco MatFormer, che permette di processare testi e immagini con attenzione separata su ogni layer.
• Gemma 3n (giugno 2025): la variante "on-device", nelle taglie E2B ed E4B, progettata per smartphone e laptop.
• Gemma 4 (marzo 2026): il salto di licenza — per la prima volta distribuita sotto Apache 2.0. Taglie E2B, E4B, 26B A4B (MoE) e 31B, con finestre di contesto fino a 256K token e input da testo, immagini e audio. A giugno 2026 è arrivato anche il 12B Unified.

Le dimensioni: quale per quale hardware

Le due famiglie si confrontano a parità di taglia, ed è qui che la scelta diventa concreta. Come riferimento per la VRAM necessaria in quantizzazione Q4:

Taglia	Esempi	VRAM minima (Q4)	Hardware tipico
1–2B	Gemma 3 1B, Gemma 3n E2B	2–4 GB	CPU, laptop, Raspberry Pi 5
4–8B	Gemma 3 4B, Mistral 7B, Ministral 3 8B	6–8 GB	RTX 3060 12GB, 4060 Ti 16GB, Mac base
12–14B	Gemma 3 12B, Ministral 3 14B	10–14 GB	4070 Ti Super 16GB, Mac 24 GB unificati
24–27B	Gemma 3 27B	16–24 GB	RTX 3090 24GB, 4090 24GB
26B+ MoE	Mixtral 8x7B, Gemma 4 26B A4B	16–24 GB	3090/4090: pochi parametri attivi, scatta

Una regola pratica: in Q4 un modello occupa circa 0,6–0,7 GB per miliardo di parametri, più la cache KV che cresce con il contesto. Se il modello non entra in VRAM, il motore di inferenza lo manda su RAM di sistema e la velocità crolla: meglio scegliere una taglia inferiore che gira fluida.

Benchmark: cosa aspettarsi

I numeri precisi cambiano a ogni release, quindi concentriamoci su quello che è stabile:

• A parità di taglia, le generazioni nuove vincono. Gemma 3 4B supera Gemma 2 9B su più benchmark pubblici: la generazione conta più del numero di parametri.
• Le lingue sono il vero terreno di gioco. Mistral 7B è stato addestrato per 33 lingue europee, il che lo rende una scelta naturale per italiano, francese e le altre lingue di quell'area. Gemma 3 copre oltre 140 lingue: se lavori con lingue che escono da quel perimetro (arabo, cantonese, hindi), Gemma ha margine.
• Il contesto lungo è un vantaggio di casa Gemma. 128K token su Gemma 3 contro 32K su Mistral 7B: documenti lunghi, conversazioni estese o RAG con molti chunk funzionano meglio su Gemma senza trucchi.
• I modelli MoE rompono il tradeoff. Mixtral 8x7B e Gemma 4 26B A4B attivano solo una frazione dei parametri per token: qualità da modello grande, velocità da modello medio. Il prezzo è la VRAM: i pesi totali vanno caricati tutti in memoria.

Per i tuoi casi d'uso specifici, prova entrambi con lo stesso prompt e misura la qualità sulle tue lingue e sul tuo tipo di documento: il benchmark che conta è il tuo.

Quale scegliere

Un metodo in tre domande:

1. Quante lingue devo coprire? Solo le principali europee → Mistral/Ministral. Ventaglio largo → Gemma 3 o 4.
2. Quanto contesto serve? Documenti fino a qualche pagina → 32K bastano. Dozzine di pagine, codice intero, RAG → 128K+ (Gemma 3).
3. Quanta VRAM ho? Con 8 GB vai sicuro su 7–8B; con 16 GB arrivi a 12–14B in Q4; con 24 GB apri la porta a 27B e ai MoE.

Partire con il piede giusto è semplice: installi Ollama e provi i due modelli della tua taglia in cinque minuti:

ollama run mistral
ollama run gemma3:12b

(oppure ollama run gemma3:4b su hardware più modesto). Stessa domanda, stessa lingua, stessa interazione: la differenza di qualità la senti subito, e la decisione si fa da sola.

Conclusione

Non esiste "la famiglia migliore": esiste la famiglia giusta per il tuo hardware, le tue lingue e il tuo contesto. Mistral porta multilinguismo europeo, licenze aperte sulla linea Small e MoE efficienti; Gemma porta il contesto lungo, la copertura linguistica più ampia e, da Gemma 4 in poi, Apache 2.0 su tutta la gamma. Hai due strade valide — e la distanza tra provarle è un solo comando.

Articolo generato con IA