Matériel pour l'IA locale : ce qu'il faut en 2026
« Quel matériel me faut-il pour l'IA locale ? » est la question la plus fréquente — et elle a une réponse concrète, pas une liste de cartes. La variable qui décide presque tout est une seule : la mémoire où sont les poids du modèle (VRAM ou mémoire unifiée). Tout le reste — vitesse, coût, complexité — est une conséquence de celle-là. Ce guide mène du budget au choix, avec les prix d'octobre 2026.
La règle qui gouverne le choix
Un modèle en 4 bits pèse environ (paramètres ÷ 3,4) Go. Ajoutez 1 à 4 Go de KV cache selon le contexte, et vous obtenez la mémoire minimale. La VRAM dont vous avez besoin :
| Modèle (Q4_K_M) | Poids | + KV cache 8K | Mémoire minimale |
|---|---|---|---|
| 8B (Llama 3.1, Qwen3) | ~5 Go | ~6–7 Go | 8 Go |
| 14B (Qwen3) | ~8,3 Go | ~10–11 Go | 12–16 Go |
| 30B MoE (Qwen3-30B-A3B) | ~19 Go | ~21–22 Go | 24 Go |
| 70B (Llama 3.1, Qwen3) | ~40 Go | ~43–45 Go | 48 Go |
La vitesse dépend de la bande passante mémoire, pas du nombre de GPU ou de cœurs : un 8B Q4 fait 15–40 tok/s sur un GPU de 400–800 Go/s, 10–20 sur un 200 Go/s, 3–10 sur RAM DDR5 dual-channel, 2–3 sur un Raspberry Pi. Si vous voulez le raisonnement complet, Modèle sans GPU : quand le CPU suffit vraiment le fait avec les chiffres et les benchmarks.
Les trois familles de machines
1. GPU NVIDIA (la voie standard)
CUDA est le standard de support : Ollama, llama.cpp, vLLM, LM Studio fonctionnent tous sans configuration. Les prix d'octobre 2026, avec la note que les Blackwell se vendent souvent au-dessus du MSRP :
| Carte | VRAM | Bande | Prix (oct 2026) | Quels modèles elle porte |
|---|---|---|---|---|
| RTX 4060 Ti | 16 Go | 288 Go/s | ~499 $ (8 Go : 399 $) | 8B–14B Q4–Q5 à vitesse utile |
| RTX 5060 Ti | 16 Go GDDR7 | 448 Go/s | 429 $ MSRP, ~550 $ street | 8B–14B Q4–Q5, plus rapide |
| RTX 5070 Ti | 16 Go GDDR7 | 896 Go/s | 749 $ MSRP, ~1.100–1.180 $ street | 32B Q4 à vitesse pratique, MoE 30B rapides |
| RTX 4090 | 24 Go | 1.008 Go/s | 1.600–2.000 $ street | 32B Q5–Q8, 70B Q3–Q4 |
| RTX 3090 d'occasion | 24 Go | 936 Go/s | ~1.000 $ | L'option « 24 Go économique » : 32B Q4 |
Le point de bascule pour la qualité est 24 Go : en dessous, vous vous arrêtez à 14B ou à des MoE de 30B en Q3 ; au-dessus, le saut à 32B Q4–Q5 est le plus net que vous puissiez faire sans entrer en workstation. Si le budget est une seule GPU, la 5070 Ti de 16 Go est le meilleur rapport qualité/prix pour la classe 8–14B ; la 3090 d'occasion de 24 Go est le choix de qui veut du 32B sans dépenser le triple.
2. Apple Silicon (mémoire unifiée)
Les puces M intègrent CPU et GPU sur un unique pool de mémoire : ce qui compte est combien de RAM vous y mettez et combien est allouable au GPU (sur un Mac de 32 Go, ~24 Go ; sur un 64 Go, ~48 Go). Pas de configuration, pas de driver, et la bande passante est haute : un M4 Max de 128 Go porte un 32B Q4 à vitesse pratique. Si vous êtes déjà dans l'écosystème Apple, c'est la voie la plus propre : IA locale sur Mac : le guide complet dimensionne les modèles par puce, et mémoire unifiée comparée met les chiffres des Mac face aux plateformes x86.
3. CPU + RAM (budget ou déjà possédé)
Si vous ne voulez pas dépenser en GPU, le CPU porte des modèles 8B en Q4 à 5–15 tok/s sur DDR5 dual-channel — suffisant pour un usage quotidien léger. Les coûts :
| Option | Prix indicatif (oct 2026) | Ce que vous obtenez |
|---|---|---|
| Mini-PC 64 Go DDR5 (ex. Ryzen 7 8700G + 64 Go) | 250–500 € | 8B Q4 à 8–15 tok/s, ~2 €/mois d'électricité en 24/7 |
| Occasion : Ryzen 9 5950X + 64 Go DDR4 | ~350–450 € | 8B Q4 à 8–12 tok/s, DDR4 : bande plus basse |
| Mac Mini M4 (32 Go) | ~1.100 $ | 14B Q4 à 15–25 tok/s, consommation 5–15W |
Le compte d'électricité est la voix qui surprend : une machine à 10 W de moyenne en 24/7 fait 7,2 kWh/mois, soit ~1,80 € à 0,25 €/kWh. Le calcul complet de l'électricité est dans l'article sur les coûts.
Combien ça coûte vraiment, en 36 mois
La question n'est pas « combien coûte la machine », c'est « combien coûte d'avoir un modèle X pendant 3 ans ». Sur un 8B Q4, 10 minutes de chat par jour :
| Choix | Achat | Électricité (36 mois) | Total 36 mois |
|---|---|---|---|
| Mac Mini M4 32 Go | ~1.100 $ | ~70 € | ~1.150 € |
| PC + RTX 5060 Ti 16 Go (système complet) | ~900 € | ~90 € (système à 40 W moyenne) | ~990 € |
| PC + RTX 3090 d'occasion (ajoutée à un PC existant) | ~1.000 € | ~130 € (système à 60 W moyenne) | ~1.130 € |
| Mini-PC 64 Go, sans GPU | ~350 € | ~70 € | ~420 € |
| Cloud API (tarif GPT-5.6 Terra) : 10 min/jour (~90k jetons/mois) | 0 € | — | ~80 € (≈ 2,5 $/mois) |
Le cloud n'a pas de coût initial, mais le compte croît avec l'usage : à 10 minutes par jour il reste négligeable (~2,5 $/mois, comme montré dans Combien coûte un token) ; à 20 millions de jetons par mois, il atteint ~184 €/mois au même tarif Terra, et c'est là que la machine de 900–1.000 € cesse de coûter et que le cloud, non. Règle pratique : usage léger (moins d'une demi-heure par jour) → cloud ; usage intensif quotidien → machine.
Le choix par budget
- Zéro / vous avez déjà un PC avec 16–32 Go : partez de CPU + modèle 8B Q4. Ça marche, c'est lent, mais vous apprenez le workflow. 0 €.
- ~500 € : GPU de 16 Go (4060 Ti ou 5060 Ti). Le 14B Q4 à 15–30 tok/s : le point d'équilibre qualité/prix pour la plupart des gens.
- ~900–1.000 € : système complet avec 16 Go ou 3090 d'occasion avec 24 Go. Ici vous entrez dans le territoire 32B : le saut de qualité le plus grand.
- ~1.100 $ dans l'écosystème Apple : Mac de 32–64 Go. Pas de driver, pas de configuration, consommation de 5 W au repos.
- Budget non limité : workstation 24 Go+ (5090 ou RTX PRO 6000). Pour qui travaille sur les modèles chaque jour, pas pour qui les utilise.
Et les limites ?
Une GPU de 16 Go n'exécute pas un 70B avec qualité : soit vous descendez de quantisation (Q3 : la qualité se dégrade visiblement sur texte long), soit vous changez de machine. Et les prix street des Blackwell sont volatils — le MSRP est une promesse, le prix street est la réalité, et il faut le revoir au moment de l'achat. Le confrontation GPU ou CPU couvre le cas intermédiaire ; comment lire les spécifications vous sert quand vous arrivez à la fiche technique du modèle.
En synthèse : mesurez d'abord la mémoire (poids + KV cache), puis la bande passante (décide les tok/s), et seulement après le prix. Pour la plupart des gens, la réponse est une GPU de 16 Go (~500 $) ou le CPU qu'ils ont déjà (~0 €) ; le vrai saut est à 24 Go (~1.000 $), où le 32B devient pratique quotidienne.
Sources
- NVIDIA — cartes GeForce RTX (prix de liste 5060 Ti / 5070 / 5070 Ti)
- BestValueGPU — historique des prix street de la RTX 5070 Ti (oct 2026 : ~1.100–1.180 $)
- BestValueGPU — historique des prix de la RTX 4090 (oct 2026 : ~2.000–2.999 $)
- llama.cpp — megathread benchmark : tok/s par matériel et quantisation
- Apple — Mac Mini M4 (configurations et prix)
Article généré par IA
Dans ces parcours
Vous avez aimé cet article ?
Abonnez-vous à la newsletter pour recevoir de nouveaux tutoriels et guides.
Articles Correlés
Intel et AMD collaborent sur PyTorch/oneDNN: ce que ça change pour l'IA locale sur CPU
AMD fusionne ZenDNN dans oneDNN, Intel intègre ses extensions ACE : une seule pile open source pour l'accélération x86 dans PyTorch, déjà par défaut. Ce que ça change si vous faites tourner des modèles en local sur CPU.
Mac Studio M5 Ultra : 512 Go de mémoire unifiée sur le bureau
Quatre dies, 512 Go de mémoire unifiée à 1,2 To/s : le Mac Studio M5 Ultra fait tourner les MoE de 100 à 560B en local. Les calculs de vitesse, le comparatif de coût avec la DGX Station et quand le Mac est le bon choix.