FP8
FormatsFormat flottant sur 8 bits pour les poids et les activations des grands modèles (variantes E4M3 et E5M2). La moitié de la VRAM du FP16 avec une perte de qualité minimale sur les poids : les modèles récents (ex. Kolibri d'Aleph Alpha) sont livrés directement en FP8. Contrairement à NVFP4 ou MXFP4, il est supporté nativement par les bibliothèques de base (cuBLAS) sans micro-scaling par bloc.
Articles liés
- Ling 3.1 Flash: 560B open-weight con licenza MIT, 1M di contesto - cosa cambia per chi ha 24GB di VRAMModèles · 19 octobre 2026 · 9 min de lecture
- Kolibri di Aleph Alpha: il MoE da 78B che gira (quasi) in localeModèles · 18 octobre 2026 · 8 min de lecture
- vLLM: servire modelli velociGuides · 20 septembre 2026 · 8 min de lecture

