Speculative Decoding

Tecnica di inferenza: un modello piccolo (draft) propone i token e il modello grande li verifica in un solo passaggio, accettandoli o correggendoli. Il risultato è più token al secondo senza cambiare qualità. Le varianti moderne: MTP (Multi-Token Prediction, integrato nei checkpoint Qwen3.8) e EAGLE (ad esempio su Mistral Medium 3.5).