Aller au contenu principal
← Retour aux actualités

BenchLM publie le classement des meilleurs LLM locaux de septembre : la VRAM décide des paliers

Classements
Source:BenchLM
Le classement de septembre 2026 ordonne les modèles Open-weight par palier de VRAM : GPT-OSS 20B et ZAYA1-8B mènent le palier 8-16 Go, Qwen3.6-27B (46,49) et Gemma 4 31B (44,84) dominent le palier 16-24 Go sur une seule RTX 4090 en Q4, et les MoE d'un trillion de paramètres exigent 8x H100. Un repère utile quand on choisit la taille du modèle pour son matériel.
Lire l'article original

Articles connexes

Quand un grand modèle ne sert à rien : choisir par la taille

Mémoire, vitesse et latence : comment choisir la bonne taille de modèle pour son matériel, et quand le petit modèle gagne vraiment.

Exécuter des Modèles LLM en Local : du Premier Install au Premier Modèle

De zéro au premier modèle qui répond : ce qu'il vous faut vraiment, Ollama pas à pas, comment choisir le modèle pour votre mémoire, les vitesses attendues par hardware et les problèmes typiques résolus.

Qwen3.8-27B vs Gemma 4 26B A4B : la nouvelle frontière à 24 Go

Dense de 27,8 Md ou MoE avec 3,8 Md actifs, un contexte de 262K contre 256K et presque le même poids en Q4_K_M : deux façons opposées d'apporter la qualité d'un grand modèle sur une carte grand public de 24 Go. Qui va plus vite, qui va plus en profondeur, et quand choisir l'un ou l'autre.

Recevez le prochain point IA locale

Chaque semaine, une sélection du meilleur d'iaLocale : articles, actualités et ressources sur l'IA locale, et plus encore.

Après l'inscription, vous recevez un e-mail de confirmation (double opt-in). Sans confirmation, nous n'envoyons rien. Pas de spam, promis.

Ressources liées

Outils et ressources des archives iaLocale pertinents pour ce contenu.

💎

Gemma 4 26B A4B

Modèles

Il modello MoE della famiglia Gemma 4: 25,2B di parametri totali con 3,8B attivi per token. Contesto 256K, input testo+immagini, oltre 140 lingue, Apache 2.0. In Q4_K_M pesa circa 16,8GB: la scelta per chi ha 24GB di VRAM e vuole qualità da modello grande con velocità da modello piccolo.

🤖

OpenAI gpt-oss-20b

Modèles

Il modello di ragionamento open-weight di OpenAI: MoE con 21B di parametri totali e 3,6B attivi (32 esperti, top-4), contesto 128K e quantizzazione MXFP4 nativa. Licenza Apache 2.0: i pesi partono già quantizzati a 4 bit, senza passo di conversione. Sta in 16GB di VRAM e gira anche su RAM unificata o CPU.

🧠

Qwen3 30B-A3B (MoE)

Modèles

Modèle Mixture-of-Experts : 30B de paramètres au total mais seulement 3,3B actifs par token. Vitesse d'un petit modèle avec la qualité d'un modèle moyen ; le meilleur rapport qualité/vitesse de sa classe.

🌱

Bonsai-2 27B

Modèles

Modèle de raisonnement de 27B aux poids ternaires à 1,72 bit par poids, dérivé de Qwen3.8-27B avec attention hybride (~75 % linéaire). En GGUF PTQ1_0 il occupe 5,95 Go, conserve 98,2 % de l'intelligence FP16 et atteint ~47 tok/s sur un laptop Apple M5 Max, avec un contexte de 262K tokens. Licence Apache 2.0. Exige la fork llama.cpp de Prism ML (les noyaux ternaires ne sont pas dans llama.cpp stock).

Parcourir toutes les ressources