Banda passante della memoria

Quantità di dati che la RAM può leggere o scrivere al secondo (Go/s). È il fattore dominante nella velocità di decodifica su CPU: ogni token richiede di rileggere i pesi del modello, quindi un 8B in Q4 (~5 Go) su 64 Go/s fa circa 11-12 tok/s. Su GPU conta di meno, perché la VRAM ha molta più banda.