llama.cpp b11716 : support Q1_0 et Q2_0 sur le backend NPU Snapdragon (Hexagon)
Outils et sortiesArticles connexes
Llama 3 et Llama 4 : la famille open de Meta, quel modèle tourne sur votre matériel
De la 3.1 8B à la 4 Scout MoE au contexte de 10M : la famille Llama en tableau, ce qui tourne sur 16, 48 et 128 Go de RAM, la licence Community traduite pour l'entreprise italienne et le choix par budget.
KV cache : pourquoi la RAM sert à plus que le seul modèle
Ce qu'est la KV cache, la formule pour la calculer avec les chiffres de Llama 3.1 8B et Qwen3 8B, et les trois leviers pour la gérer : contexte, quantisation et flash attention.
Qwen : le modèle open au meilleur support multilingue
Qwen est la famille open au meilleur support pour le français et l'italien : générations, tailles, MoE, quand l'utiliser et comparaison rapide avec Llama.
Recevez le prochain point IA locale
Chaque semaine, une sélection du meilleur d'iaLocale : articles, actualités et ressources sur l'IA locale, et plus encore.
Après l'inscription, vous recevez un e-mail de confirmation (double opt-in). Sans confirmation, nous n'envoyons rien. Pas de spam, promis.