Blog
Articles, guides et analyses sur l'intelligence artificielle locale
Parcours de lecture
Par ici pour débuter
Le parcours dans l'ordre pour qui s'approche de l'IA locale : des concepts de base à l'installation et au premier modèle.
Optimiser les performances
Choisir le bon matériel et tirer le meilleur de celui que vous avez déjà : CPU ou GPU, Mac, Raspberry Pi et inférence rapide.
Données et confidentialité
Ce qui part vraiment sur le réseau avec l'IA locale : les données, la sécurité, la conformité et le contrôle qui reste entre vos mains.
Choisir le matériel et le modèle
Comment choisir le bon matériel et le modèle adapté à votre usage : VRAM, quantification, GPU ou CPU et vitesse de réponse.
14 articles
Nemotron-Parse : la famille OCR de NVIDIA pour lire vos documents en local
Nemotron Parse est la famille de modèles vision-encodeur-décodeur de NVIDIA qui lit les PDF en local : markdown formaté, formules LaTeX, coordonnées et classe sémantique de chaque élément, dans l'ordre de lecture. v1.1 (nov. 2025), v1.2 (févr. 2026) et 2.0 (juin 2026), toutes sous le milliard de paramètres et rééditées le 20 octobre ; la 2.0 atteint 0.72 d'ANLS sur les écritures indiennes. En local avec vLLM de v0.20 à v0.26 : les documents restent sur votre matériel.
MiniCPM-V 4.7 : le MoE de 35B qui tourne sur smartphone avec 3 Go de RAM
MiniCPM-V 4.7 (35B totaux, ~3B actifs, sorti le 12 octobre 2026 par OpenBMB et ModelBest) est le premier MoE open de la série, visuel-linguistique : images multiples, vidéo, OCR. 13+ tok/s avec 3 Go de RAM sur iPhone 17 Pro Max, 17+ sur Android. Quantisations officielles BF16, FP8, INT4, AWQ, GPTQ, GGUF ; moteurs Ollama, llama.cpp, vLLM, SGLang. Les trois techniques : Lookahead Expert Scheduling, quantisation fine par niveau, échantillonnage spéculatif DSpark.
Ling 3.1 Flash : 560B open-weight sous licence MIT, contexte de 1M — ce que ça change si vous avez 24 Go de VRAM
Ling 3.1 Flash d'inclusionAI : MoE hybride 560B totaux / 25B actifs, contexte natif 1M tokens, checkpoint FP8, licence MIT. Concrètement, pour 24 Go de VRAM : quantifications, parallélisme et coûts API.
Kolibri d'Aleph Alpha : le MoE de 78B qui tourne (presque) en local
Kolibri (78,1B/3,46B, Apache 2.0, FP8) d'Aleph Alpha est le MoE européen open-weight : raisonnement, tool calling et contexte jusqu'à 1M de tokens. En FP8 il pèse ~78 Go de VRAM : il tourne sur RTX 5090 32GB + mémoire partagée ou sur Mac à mémoire unifiée ; pour une adoption pratique il manque encore l'architecture kolibri1 dans llama.cpp et les builds d'Ollama/LM Studio.
gpt-oss : le modèle de raisonnement open d'OpenAI
21 Md de paramètres au total mais seulement 3,6 Md actifs, poids natifs en MXFP4 et 128K de contexte : le premier modèle de raisonnement open d'OpenAI tient dans 16 Go. Ce que cela change en pratique.
Modèles d'images en local : de SDXL à Qwen-Image
Des 2,6B de paramètres de SDXL aux 7B de Qwen-Image 2.1 : fonctionnement des diffusion models, VRAM réellement nécessaire et quel modèle choisir selon votre matériel.
L'italien dans les modèles locaux : à quoi s'attendre
Combien de modèles locaux tiennent vraiment l'italien ? Les chiffres des éditeurs, où ils se trompent, et la méthode en une demi-heure pour les mesurer vous-même.
GGUF : le format qui fait tenir les modèles sur votre matériel
GGUF est le format à fichier unique qui distribue les modèles pour l'inférence locale : en-tête avec signature et version, métadonnées clé-valeur, index des tenseurs et poids alignés pour un chargement rapide via mmap. Types de quantification avec tailles réelles (8B de 14.96 Gio en F16 à 4.58 Gio en Q4_K_M), convention de nommage et règle pour choisir la taille selon la VRAM ou la RAM.
Quantification : tirer davantage du même matériel
La quantification réduit la précision des poids (de FP16 à 4-8 bits) pour faire entrer les modèles dans moins de VRAM et générer plus de tokens par seconde. Niveaux, tailles réelles de Qwen2.5 14B, règle de choix à partir de Q4_K_M et limites (code, raisonnement, langues autres que l'anglais).
Qwen-Image 2.1 : générer et éditer des images en local
Qwen-Image 2.1 unifie génération à partir de texte, édition et transparence RGBA dans un modèle open de 7B (DiT de 32 couches). Setup local avec diffusers, support natif dans ComfyUI, besoins en VRAM (~14Go en bfloat16) et cas d'usage (stickers, photos de produit, workflows de design).
Quand un grand modèle ne sert à rien : choisir par la taille
La méthode pour choisir la taille du modèle selon le matériel : les trois limites (mémoire, vitesse, latence perçue), le tableau VRAM pour la quantification Q4, les classes par matériel et les cas où le petit modèle gagne.
Comment lire les spécifications d'un modèle : famille, taille, contexte
Guide de lecture des spécifications d'un modèle : famille, taille totale et active, fenêtre de contexte, quantification, benchmarks et licence, avec un exemple sur DeepSeek V4.1 Flash.
Qwen : le modèle open au meilleur support multilingue
Qwen est la famille open au meilleur support pour le français et l'italien : générations, tailles, MoE, quand l'utiliser et comparaison rapide avec Llama.
Llama 3 et Llama 4 : la famille open de Meta, quel modèle tourne sur votre matériel
Llama 3 et 4 en tableau : 3B/8B/70B et Scout MoE 109B, RAM requise par modèle, licence Community et le choix par budget.