Attenzione lineare

Famiglia di schemi di attenzione (DeltaNet, Gated DeltaNet, Mamba, ecc.) che sostituisce la KV cache a crescita lineare con uno stato ricorrente di dimensione fissa, riducendo drasticamente la memoria a lungo contesto. È la tecnica alla base dei modelli a attenzione ibrida come Qwen3.8-27B.