Outils, frameworks et modèles pour l'IA locale
13 ressources trouvées pour "MoE"
Modèle décisionnel open de 35B paramètres (3B actifs) d'Autotrust, fine-tune de Qwen3.5-35B-A3B pour la classification de texte et le scoring du risque. Quantisé en NVFP4, il occupe environ 25,6 Go de VRAM : il tourne sur un GPU 32 Go sans passer par une inférence frontière.
Modèle MoE de DeepSeek avec 552B de paramètres au total et 8 à 16B actifs par token. Contexte de 1M de tokens, licence MIT : usage commercial libre. Conçu pour le service en ligne, trop grand pour un usage local sur un seul PC.
Il modello MoE della famiglia Gemma 4: 25,2B di parametri totali con 3,8B attivi per token. Contesto 256K, input testo+immagini, oltre 140 lingue, Apache 2.0. In Q4_K_M pesa circa 16,8GB: la scelta per chi ha 24GB di VRAM e vuole qualità da modello grande con velocità da modello piccolo.
Modello MoE open-weight di inclusionAI: 560B parametri totali, 25B attivi per token, architettura ibrida (attenzione lineare KDA + Gated MLA), finestra di contesto fino a 1M di token, licenza MIT. Reasoning ibrido con modalità di pensiero on/off. A 4 bit entra in 512GB di memoria unificata.
MoE d'Aleph Alpha : 78,1B de paramètres (3,46B actifs par token), Apache 2.0, poids en FP8, contexte jusqu'à 1M de tokens, mode raisonnement et tool calling. Conçu pour des charges mission-critical sur matériel local.
Il modello MoE grande della famiglia Llama 4 di Meta: 400B di parametri totali con 17B attivi (128 esperti). Contesto 1M di token, nativamente multimodale (testo+immagini), licenza comunitaria Meta. Richiede multi-GPU o macchine con memoria unificata 128GB+ anche quantizzato.
Le modèle MoE compact de la famille Llama 4 : 17B de paramètres actifs sur 109B au total (16 experts). Licence communautaire Meta avec usage libre sous 700 millions d'utilisateurs mensuels. L'un des meilleurs points d'entrée de la famille Llama 4.
Le premier MoE open-source de la série MiniCPM-V d'OpenBMB : 35,2 Md de paramètres au total, ~3 Md actifs par token, compréhension d'images multiples et de vidéo avec compression précoce des tokens visuels (LLaVA-UHD v4). Premier MoE open-source à décoder fluidement sur appareil — 13+ tokens/seconde avec seulement 3 Go de RAM sur iPhone 17 Pro Max — grâce au Lookahead Expert Scheduling (llama.cpp-omni), à une quantisation fine par couche et au DSpark speculative sampling. Support day-0 pour Rockchip, Houmo, Intel, AMD et Arm ; tourne sur Ollama, llama.cpp, vLLM et SGLang.
Il modello della linea Small di Mistral, ora MoE: 119B di parametri totali con 6,5B attivi per token (128 esperti, 4 attivi). Unifica instruct, reasoning e coding in un unico modello multimodale (testo+immagini) con contesto 256K. Licenza Apache 2.0.
Huit experts de 7B dont deux actifs par token : 47B de paramètres au total et un raisonnement de grand modèle à une fraction du coût de calcul. Un classique du monde open.
Il modello di ragionamento open-weight di OpenAI: MoE con 21B di parametri totali e 3,6B attivi (32 esperti, top-4), contesto 128K e quantizzazione MXFP4 nativa. Licenza Apache 2.0: i pesi partono già quantizzati a 4 bit, senza passo di conversione. Sta in 16GB di VRAM e gira anche su RAM unificata o CPU.
Modèle Mixture-of-Experts : 30B de paramètres au total mais seulement 3,3B actifs par token. Vitesse d'un petit modèle avec la qualité d'un modèle moyen ; le meilleur rapport qualité/vitesse de sa classe.
Modèle MoE de 35 Md de paramètres avec ~3 Md actifs par jeton de la famille Qwen, Apache-2.0. C'est la base de fine-tune de JEV-35B. Adapté à des GPU de 40 Go+ en BF16 ou à des quantisations 4/8 bits pour du matériel plus petit.
