Il modello di ragionamento open-weight di OpenAI: MoE con 21B di parametri totali e 3,6B attivi (32 esperti, top-4), contesto 128K e quantizzazione MXFP4 nativa. Licenza Apache 2.0: i pesi partono già quantizzati a 4 bit, senza passo di conversione. Sta in 16GB di VRAM e gira anche su RAM unificata o CPU.
Whisper Large-v3-Turbo
Publié le 1 oct. 2024
Il modello di trascrizione di riferimento per l'IA locale: 809M di parametri, 99 lingue, licenza MIT. Versione distillata di Large-v3 con decoder ridotto da 32 a 4 layer: trascrive circa 8 volte più veloce con perdita di accuratezza trascurabile. Gira in tempo reale su una GPU consumer e anche solo su CPU.
Caractéristiques
- 809M parametri
- 99 lingue
- ≈8× più veloce di Large-v3
- MIT
- 2-3GB di VRAM (fp16)
Historique des versions
- Whisper Large-v3-TurboActuelle
Distillazione di Large-v3: encoder invariato, decoder da 32 a 4 layer (1,55B → 809M), ~8× più veloce, WER +0,5-1pp. MIT.
Tags
Liens utiles
Découvrir Whisper Large-v3-Turbo
Visitez le site officiel pour télécharger, vous documenter et commencer à utiliser Whisper Large-v3-Turbo.
Ressources liées — Modèles
Modèle de décision System 1 de 11,4 Mo (un seul fichier), construit sur un encodeur textuel e5-small-v2. Pic de mémoire résidente de 128 Mo, tourne sur CPU. Donné un état et des questions typées, il renvoie une probabilité calibrée par option en un seul passage, sans générer de jetons. Anglais uniquement.
Modèle musical open le plus récent avec un contrôle excellent sur paroles et styles : génère des chansons complètes avec paroles dans plusieurs langues, dont l'italien.

