Come leggere le specifiche di un modello: famiglia, dimensione, contesto

Ogni nuovo modello arriva con la sua "scheda tecnica": un nome con lettere e numeri, miliardi di parametri, una finestra di contesto, una lista di benchmark. Si legge come quella di uno smartphone, ma le regole di confronto sono diverse — e saperla decodificare separa una scelta fatta bene da un errore costoso.

Qui imparate a decodificare la scheda di un modello di IA, riga per riga. Alla fine applichiamo il metodo a un modello reale.

1. La famiglia: il nome racconta metà della storia

I nomi dei modelli seguono uno schema: Qwen 3, Llama 3.1, Gemma 3, Mistral 7B. La famiglia è il lignaggio, il numero è la versione. Nella stessa famiglia i modelli condividono architettura e metodo di addestramento, quindi le specifiche di una versione sono un punto di partenza affidabile per la successiva.

Perché conta? Perché la famiglia racconta il carattere: multilingue, tecnica, matematica, multimodale. Se una famiglia ha buona reputazione per il vostro compito, una nuova versione è quasi sempre una scommessa sicura — anche senza benchmark disponibili.

Due dettagli pratici:

• "Instruct" e base: un modello con "instruct" nel nome (o "-it") è preparato per la conversazione. Un modello base è un motore puro di completamento del testo, utile per il fine-tuning, non per il chat.
• I numeri di versione: da 2.5 a 3 è un salto grosso, con specifiche che cambiano molto. All'interno di una versione (7B → 14B) le differenze sono di taglia e contesto, non di approccio.

2. La dimensione: cosa significano i "B"

"B" sta per miliardo (di parametri): un modello 7B ha 7 miliardi di valori interni che determinano il suo comportamento. La dimensione decide la qualità che potete aspettarvi e la memoria che serve per girare.

Regola pratica: a piena precisione (16 bit) servono circa 2 GB di RAM o VRAM per ogni miliardo di parametri, più un margine per il contesto. In pratica:

• 1-4B: gira ovunque, anche su un portatile datato. Buono per riassunti semplici e bozze.
• 7-14B: il punto di equilibrio. Con 16-32 GB si ottiene una qualità che molti servizi in linea non offrono.
• 32B e oltre: qualità eccellente, ma serve hardware serio o quantizzazione aggressiva.

Vale la legge dei rendimenti decrescenti: il salto 3B→7B è spesso più grande del salto 7B→14B. La dimensione è il primo numero da leggere, non l'unico.

3. Parametri attivi: il numero che cambia tutto

C'è un numero che compare sempre più spesso nelle schede: i parametri attivi. Esiste perché c'è l'architettura MoE (Mixture of Experts).

In un modello MoE il modello contiene molti miliardi di parametri in totale, ma per ogni token ne attiva solo una piccola parte. Qwen3 30B-A3B significa: 30 miliardi totali, 3 attivi per token. DeepSeek V4.1 Flash ne ha 552 miliardi in totale, ma solo 8-16 attivi.

Perché vi riguarda? Due numeri diversi, due bisogni diversi:

• I parametri totali determinano la memoria per caricare il modello (tutti i pesi devono stare in RAM/VRAM).
• I parametri attivi determinano la velocità della risposta.

Un modello MoE dà quindi la qualità di un modello grande alla velocità di uno piccolo — a patto di avere la memoria per l'intero peso. Quando leggete "552B", pensate a "un modello che pensa con 16 miliardi, ma il cui cervello ne occupa 552".

4. Il contesto: quanto può tenere a mente

Il contesto è il numero massimo di token che un modello può gestire in un colpo solo: quello che gli mandate + quello che risponde. Un token vale circa tre quarti di una parola.

Traduzione pratica:

• 8-32K: conversazioni brevi e documenti piccoli. Basta per il chat quotidiano.
• 64-128K: documenti interi, file di codice lunghi, conversazioni estese.
• 1M+: la nuova generazione (DeepSeek V4.1 Flash, Llama 4) può elaborare un libro intero o un'intera base di codice in un solo passaggio.

Due avvertenze. Prima: un contesto grande costa — in memoria (la cache KV cresce con la conversazione) e in qualità, perché il modello tende a perdere il filo nel mezzo di un ingresso molto lungo. Seconda: il contesto dichiarato è il massimo, non il default. Un contesto da 1M su 16 GB di memoria significa un contesto reale molto più piccolo. Leggete il contesto in combinazione con l'hardware, mai da solo.

5. La quantizzazione: lo stesso modello in taglie diverse

Vedrete spesso lo stesso modello in versioni 4 bit, 5 bit, 8 bit. La quantizzazione comprime la precisione dei pesi: un 7B a 16 bit pesa circa 14 GB, a 4 bit (Q4) circa 4,5 GB.

Cosa si perde? Poco. Tra 8 bit e piena precisione la perdita è quasi impercettibile; tra 4 bit e 8 bit si può percepire una differenza nel ragionamento complesso, ma per gli usi quotidiani la versione a 4 bit di un modello buono batte quella a 8 bit di uno mediocre:

• 8 bit (Q8): se il vostro hardware lo consente, è la qualità da puntare.
• 4 bit (Q4): lo standard per l'uso locale, il miglior compromesso tra dimensione e qualità.
• 2 bit (Q2): solo se non entra nient'altro. Il degrado diventa percettibile.

Conta anche il formato: GGUF è lo standard per l'IA locale (usato da Ollama e LM Studio). Se esiste una versione GGUF, è un segnale forte che la comunità locale ci sta già lavorando.

6. I benchmark: numeri utili, da leggere con metodo

I benchmark sono test standardizzati: GPQA per il ragionamento scientifico, MMLU per le conoscenze generali, SWE-bench per il codice reale, AIME per la matematica. Permettono confronti, ma ci sono tre trappole.

Trappola 1: misurano ciò su cui il modello è stato addestrato. Un punteggio vicino al soffitto non è sempre una buona notizia: può indicare contaminazione del test. Trappola 2: il numero da solo non dice nulla. I numeri sono confrontabili solo se sono sullo stesso test, nelle stesse condizioni, con la stessa quantizzazione. Trappola 3: il benchmark sbagliato per il vostro uso. Se vi serve un buon supporto della vostra lingua, un benchmark multilingue (come MMMLU) è più informativo di un benchmark di codice. Se userete il modello per programmare, SWE-bench vale più di un punteggio di conoscenza generale.

La postura giusta: i benchmark dicono se un modello è sufficientemente capace; a dire se è fatto per voi ci pensa solo un test coi vostri dati.

7. La licenza: la riga invisibile

È la riga che tutti saltano, e quella che decide cosa potete fare davvero. Quattro classi:

• MIT / Apache 2.0: uso commerciale libero, nessun obbligo. Il caso migliore.
• Licenze comunitarie (la licenza Llama, per esempio): uso libero con condizioni — tipicamente nessun obbligo sotto una certa soglia di utenti mensili, sopra serve un accordo col produttore.
• Open-weight con restrizioni: i pesi sono scaricabili, ma la licenza limita l'uso commerciale o la ridistribuzione.
• Chiusi: i pesi non sono pubblicati; il modello si usa solo tramite il servizio.

Due parole da non confondere: open source (codice, pesi, dati e metodo pubblici) e open-weight (pubblici solo i pesi). La maggior parte dei modelli moderni è open-weight, non open source. Prima di integrare un modello in un prodotto, leggete la licenza: cinque minuti che vi risparmiano un problema legale.

8. Leggere una scheda vera

Mettiamo il metodo alla prova. DeepSeek V4.1 Flash, uscito a settembre 2026, ha tutte le righe:

• Famiglia: DeepSeek V4 — il lignaggio che ha definito il rapporto qualità/prezzo dell'ultimo anno. "Flash" è il membro piccolo della famiglia.
• Dimensione: 552B totali, 8B attivi in lettura (prefill), 16B in risposta (decode). MoE.
• Contesto: 1M di token — un libro intero o una base di codice in un solo passaggio.
• Benchmark: 90,6 su Terminal-Bench 2.1 e 74,2 su DeepSWE (numeri dichiarati dal produttore), per un modello che "pensa" con 16 miliardi.
• Licenza: MIT — uso commerciale libero, senza condizioni.

Come si legge? I 552B vi dicono che in locale serve un server, non una workstation (a 4 bit circa 300 GB di memoria). I 16B attivi spiegano perché è veloce quando lo serve un provider. I 1M di contesto sono la vera novità; la licenza MIT dice che potete usarlo in un prodotto senza parlare con nessuno.

9. Il metodo: cinque domande prima di scaricare

Quando uscirà il prossimo modello, prima di cliccare su download chiedetevi:

1. Che famiglia? Ha buona reputazione per il mio uso?
2. Dimensione totale vs attiva? Quanti GB mi serve in realtà (circa 2 GB/B a piena precisione, 0,6-0,8 GB/B a 4 bit)?
3. Contesto? È sufficiente per i miei documenti e le mie conversazioni?
4. Quale quantizzazione entra nel mio hardware? C'è una versione GGUF?
5. Licenza? Posso usarlo nel modo in cui mi serve?

Se rispondete a tutte e cinque, avete fatto l'80% del lavoro. Il restante 20% è scaricare il modello e provarlo con i vostri prompt reali: la scheda dice cosa un modello sa fare, solo il test dice se lo fa bene.

Articolo generato con IA