Blog
Articles, guides et analyses sur l'intelligence artificielle locale
Parcours de lecture
Par ici pour débuter
Le parcours dans l'ordre pour qui s'approche de l'IA locale : des concepts de base à l'installation et au premier modèle.
Optimiser les performances
Choisir le bon matériel et tirer le meilleur de celui que vous avez déjà : CPU ou GPU, Mac, Raspberry Pi et inférence rapide.
Données et confidentialité
Ce qui part vraiment sur le réseau avec l'IA locale : les données, la sécurité, la conformité et le contrôle qui reste entre vos mains.
Choisir le matériel et le modèle
Comment choisir le bon matériel et le modèle adapté à votre usage : VRAM, quantification, GPU ou CPU et vitesse de réponse.
36 articles
Des agents ML en local : MLExpert et EpochGo sur Ollama, coût d'API nul
MLExpert pousse la barre à 35B et 72,7 % de médailles ; EpochGo fait tourner trois agents AutoML sur 16 Go, sans API : ce qui marche aujourd'hui, les comptes et les limites.
Intel et AMD collaborent sur PyTorch/oneDNN: ce que ça change pour l'IA locale sur CPU
AMD fusionne ZenDNN dans oneDNN, Intel intègre ses extensions ACE : une seule pile open source pour l'accélération x86 dans PyTorch, déjà par défaut. Ce que ça change si vous faites tourner des modèles en local sur CPU.
MiniCPM-V 4.7 : le MoE de 35B qui tourne sur smartphone avec 3 Go de RAM
MiniCPM-V 4.7 (35B totaux, ~3B actifs, sorti le 12 octobre 2026 par OpenBMB et ModelBest) est le premier MoE open de la série, visuel-linguistique : images multiples, vidéo, OCR. 13+ tok/s avec 3 Go de RAM sur iPhone 17 Pro Max, 17+ sur Android. Quantisations officielles BF16, FP8, INT4, AWQ, GPTQ, GGUF ; moteurs Ollama, llama.cpp, vLLM, SGLang. Les trois techniques : Lookahead Expert Scheduling, quantisation fine par niveau, échantillonnage spéculatif DSpark.
Ling 3.1 Flash : 560B open-weight sous licence MIT, contexte de 1M — ce que ça change si vous avez 24 Go de VRAM
Ling 3.1 Flash d'inclusionAI : MoE hybride 560B totaux / 25B actifs, contexte natif 1M tokens, checkpoint FP8, licence MIT. Concrètement, pour 24 Go de VRAM : quantifications, parallélisme et coûts API.
Kolibri d'Aleph Alpha : le MoE de 78B qui tourne (presque) en local
Kolibri (78,1B/3,46B, Apache 2.0, FP8) d'Aleph Alpha est le MoE européen open-weight : raisonnement, tool calling et contexte jusqu'à 1M de tokens. En FP8 il pèse ~78 Go de VRAM : il tourne sur RTX 5090 32GB + mémoire partagée ou sur Mac à mémoire unifiée ; pour une adoption pratique il manque encore l'architecture kolibri1 dans llama.cpp et les builds d'Ollama/LM Studio.
Modèles de décision en local : JEV-35B et le System 1 à 3 Md actifs
Pas besoin d'un grand LLM pour décider. JEV-35B (35 Md, 3 Md actifs) en NVFP4 sur une GPU de 32 Go et ej (11,4 Mo) sur CPU montrent comment faire du routage, de la classification et du contrôle qualité sans générer un seul jeton.
Mac Studio M5 Ultra : 512 Go de mémoire unifiée sur le bureau
Quatre dies, 512 Go de mémoire unifiée à 1,2 To/s : le Mac Studio M5 Ultra fait tourner les MoE de 100 à 560B en local. Les calculs de vitesse, le comparatif de coût avec la DGX Station et quand le Mac est le bon choix.
À combien revient un token : cinq chemins, les comptes et le point d'équilibre
API frontier, abonnement, fournisseurs d'inférence, GPU en location ou matériel à vous : cinq chemins pour générer des tokens, avec les coûts réels par mois, le compte de l'électricité et le point d'équilibre calculé.
NVIDIA, AMD et Intel pour l'IA locale : quelle plateforme choisir
CUDA, ROCm ou Vulkan ? Nous comparons les trois plateformes pour l'IA locale sur la base de ce qui est réellement disponible : stacks logiciels officiels, cartes par palier de VRAM (12, 16 et 24 Go) et vitesses réelles. Où reste le choix évident, où AMD l'emporte au rapport qualité-prix et quand vaut-il la peine de quitter NVIDIA.
Les cartes Blackwell de 16 Go : 5060 Ti, 5070, 5070 Ti
Le palier de 16 Go de VRAM est le centre de gravité de l'IA locale en 2026. C'est la mémoire suffisante pour faire tourner les meilleurs modèles denses open source en format Q4 — la classe 27B, le nouveau point d'équilibre du catalogue ouvert — sans sacrifier trop de contexte, et un prix catalogue qui (selon le mois) reste à la portée d'un budget personnel. La génération Blackwell offre trois cartes exactement au cœur de ce palier : RTX 5060 Ti, 5070 et 5070 Ti. Même génération, même GDDR7, trois expériences très différentes. Nous les comparons aujourd'hui : ce que chacune vous apporte vraiment, et où placer votre budget.
Décodage spéculatif et MTP : la vitesse sans compromis
Le décodage spéculatif accélère l'IA locale sans changer la qualité de la sortie : un modèle esquisse les jetons, le grand modèle les vérifie. Voici comment fonctionne le schéma-verification, les têtes MTP de Qwen, EAGLE sur Mistral Medium 3.5 et comment activer le tout en trois commandes.
gpt-oss : le modèle de raisonnement open d'OpenAI
21 Md de paramètres au total mais seulement 3,6 Md actifs, poids natifs en MXFP4 et 128K de contexte : le premier modèle de raisonnement open d'OpenAI tient dans 16 Go. Ce que cela change en pratique.
Mémoire unifiée : de la Strix Halo au Mac Studio M5 Ultra, ce qui y tient et à quelle vitesse
128 ou 512 Go de mémoire partagée entre CPU et GPU : trois plateformes réelles, le bande passante qui décide de la vitesse, et les comptes sur ce qui y tient et pour qui cela a du sens.
Modèles d'images en local : de SDXL à Qwen-Image
Des 2,6B de paramètres de SDXL aux 7B de Qwen-Image 2.1 : fonctionnement des diffusion models, VRAM réellement nécessaire et quel modèle choisir selon votre matériel.
Qwen3.8-27B vs Gemma 4 26B A4B : la nouvelle frontière à 24 Go
Dense de 27,8 Md ou MoE avec 3,8 Md actifs, un contexte de 262K contre 256K et presque le même poids en Q4_K_M : deux façons opposées d'apporter la qualité d'un grand modèle sur une carte grand public de 24 Go. Qui va plus vite, qui va plus en profondeur, et quand choisir l'un ou l'autre.
Ollama vs llama.cpp : sous le capot
Ollama utilise llama.cpp sous le capot, mais les deux ne sont pas la même chose : l'un est le moteur, l'autre la voiture. Ce qu'il y a vraiment dessous, quand la différence compte et comment choisir sans slogans.
Coûts : local vs API, avec les vrais chiffres
Combien coûte vraiment le local par rapport à une API cloud ? Tarifs par token vérifiés, amortissement de la carte graphique, électricité et point de rentabilité, calculé avec les vrais chiffres.
La voix locale : de Whisper au text-to-speech
Comment construire un pipeline de voix entièrement local : transcription avec Whisper, synthèse avec Piper ou Kokoro-82M, exigences matérielles et cas d'usage concrets.
L'italien dans les modèles locaux : à quoi s'attendre
Combien de modèles locaux tiennent vraiment l'italien ? Les chiffres des éditeurs, où ils se trompent, et la méthode en une demi-heure pour les mesurer vous-même.
Confidentialité : ce qui circule vraiment sur le réseau quand l'IA est locale
Vos données ne quittent pas la machine — presque. Voici ce qui part vraiment sur le réseau avec Ollama et LM Studio, et comment le vérifier en une demi-heure avec tcpdump, Wireshark et mitmproxy.
Modèle sans GPU : quand le CPU suffit vraiment
En 2026, l'inférence sur CPU seul n'est plus un pis-aller : quand elle fonctionne vraiment, à quelle vitesse s'attendre et quelles manettes tirer pour presser le processeur.
KV cache : pourquoi la RAM sert à plus que le seul modèle
Ce qu'est la KV cache, la formule pour la calculer avec les chiffres de Llama 3.1 8B et Qwen3 8B, et les trois leviers pour la gérer : contexte, quantisation et flash attention.
GGUF : le format qui fait tenir les modèles sur votre matériel
GGUF est le format à fichier unique qui distribue les modèles pour l'inférence locale : en-tête avec signature et version, métadonnées clé-valeur, index des tenseurs et poids alignés pour un chargement rapide via mmap. Types de quantification avec tailles réelles (8B de 14.96 Gio en F16 à 4.58 Gio en Q4_K_M), convention de nommage et règle pour choisir la taille selon la VRAM ou la RAM.
Fine-tuning : adapter un modèle à vos données avec LoRA et QLoRA
Fine-tuning avec LoRA et QLoRA : quand c'est vraiment nécessaire, comment préparer 100-500 exemples de qualité, combien de VRAM il faut (8-12 Go en QLoRA pour un 7B) et quels outils locaux utiliser : LLaMA-Factory, Unsloth, MLX.
Quantification : tirer davantage du même matériel
La quantification réduit la précision des poids (de FP16 à 4-8 bits) pour faire entrer les modèles dans moins de VRAM et générer plus de tokens par seconde. Niveaux, tailles réelles de Qwen2.5 14B, règle de choix à partir de Q4_K_M et limites (code, raisonnement, langues autres que l'anglais).
Qwen-Image 2.1 : générer et éditer des images en local
Qwen-Image 2.1 unifie génération à partir de texte, édition et transparence RGBA dans un modèle open de 7B (DiT de 32 couches). Setup local avec diffusers, support natif dans ComfyUI, besoins en VRAM (~14Go en bfloat16) et cas d'usage (stickers, photos de produit, workflows de design).
Quand un grand modèle ne sert à rien : choisir par la taille
La méthode pour choisir la taille du modèle selon le matériel : les trois limites (mémoire, vitesse, latence perçue), le tableau VRAM pour la quantification Q4, les classes par matériel et les cas où le petit modèle gagne.
Comment lire les spécifications d'un modèle : famille, taille, contexte
Guide de lecture des spécifications d'un modèle : famille, taille totale et active, fenêtre de contexte, quantification, benchmarks et licence, avec un exemple sur DeepSeek V4.1 Flash.
GPU ou CPU : quand la CPU suffit
Le prefill et le decode, ce qui compte pour la vitesse (la bande passante mémoire), les chiffres réels sur un portable courant, les cas où la CPU suffit et ceux où la VRAM est nécessaire — avec les commandes pour mesurer.
Open WebUI : l'interface de votre IA locale
Open WebUI est l'interface web complète pour vos modèles locaux : installation Docker, connexion à Ollama, personnalisation par modèle, RAG documentaire et limites honnêtes.
L'IA locale sur Mac : le guide complet Apple Silicon
Pourquoi l'Apple Silicon (mémoire unifiée, cœurs GPU) est la machine la plus simple pour l'IA locale : RAM nécessaire, installation d'Ollama, modèles recommandés par génération et performances réalistes.
Matériel pour l'IA locale : ce qu'il faut en 2026
La règle de mémoire (poids + KV cache), les prix réels d'octobre 2026 pour GPU, Apple Silicon et CPU, le compte sur 36 mois et le choix par budget.
Exécuter des Modèles LLM en Local : du Premier Install au Premier Modèle
Découvrez comment installer et utiliser de grands modèles de langage sur votre ordinateur, sans dépendre de services cloud.
IA locale sur Raspberry Pi
De la première installation au modèle qui répond sur un Pi 5 : prix réels 2026, formule tok/s = bande ÷ fichier, compte d'électricité et astuces qui comptent.
Ollama vs LM Studio : quel outil choisir
Ollama pour serveurs et scripts, LM Studio pour l'exploration desktop : tableau comparatif, les deux API (11434/1234) et le cas réel de ceux qui les utilisent ensemble.
Comment Choisir Votre Premier Modèle d'IA Locale
Les trois critères pour choisir votre premier modèle local : usage, mémoire (avec la formule exacte) et contexte, avec les modèles conseillés pour 8, 16 et 24 Go.