Outils, frameworks et modèles pour l'IA locale
16 ressources dans Logiciel
CLI de NVIDIA en Rust pour le développement du noyau Linux assisté par IA, avec un focus sur l'IA locale : validation de patchs, build, boot et tests, pensée pour le backporting de patchs vers des noyaux plus anciens. Elle prend en charge des back-ends locaux (Claude, OpenCode, Codex) ou des serveurs OpenAI-compatibles. Licence Apache 2.0, mené par Andrea Righi.
Le workflow visuel à nœuds pour les modèles de diffusion : la référence pour SDXL, FLUX, vidéo et audio. Maximale flexibilité, de la pipeline simple à la pipeline professionnelle.
Génération d'images SDXL en un clic, style Midjourney : zéro paramètre à gérer. La voie la plus simple pour produire des images de qualité.
Outil open source qui estime la vitesse d'inférence d'un modèle local sur plus de 250 configurations matérielles (GPU, Mac, CPU) : estimations mesurées depuis des benchmarks communautaires ou dérivées de setups similaires. Sert à choisir le matériel avant de l'acheter.
Application desktop sans terminal pour télécharger et exécuter des modèles GGUF : interface graphique, recherche de modèles intégrée et serveur local. La voie la plus simple pour commencer.
Guide en ligne qui croise modèles open-weights et matériel réel : pour chaque GPU, Mac et mini-PC, elle montre ce qui tourne, combien d'espace il faut et à quel débit en tokens/seconde, avec des guides sur la quantification et la mémoire. L'outil idéal pour la voie du matériel propre.
Proxy open source qui intercepte et affiche les contenus des requêtes HTTPS en clair : l'outil pour vérifier ce qui part vraiment sur le réseau depuis votre configuration d'IA locale.
App GTK4/libadwaita pour GNOME pour discuter avec des modèles locaux via Ollama, en Rust et sous GPLv3 : elle gère l'installation d'Ollama, les modèles et le chargement de documents et d'images locaux.
Les runtime qui font tourner les modèles locaux sur votre matériel : Ollama pour la simplicité, llama.cpp pour la portabilité, vLLM pour le débit de production. Les moteurs du catalogue sont les ressources filles.
Interface web complète de type ChatGPT pour Ollama et llama.cpp : comptes multi-utilisateurs, conversations organisées, gestion des documents pour le RAG, prompt système par modèle, outils et plugins. La version 0.11.4 (septembre 2026) fait voyager les métadonnées des fichiers avec les blocs récupérés et exécute la recherche hybride nativement dans la base de données : les grandes bases de connaissance sont beaucoup plus rapides. La manière la plus simple de transformer votre IA locale en un produit d'usage quotidien.
Outil Python à dépendance nulle qui reconnaît et résume chaque fichier avec un LLM local (Ollama, LM Studio ou MLX-LM), entièrement hors ligne. Détecte le type par le contenu, extrait la structure (CSV, e-mails, scripts, logs) et signale les fichiers contenant des instructions à l'assistant. Fonctionne aussi sans modèle (--no-llm). Licence MIT.
Runtime Swift/MLX pour la reconnaissance vocale en flux de Kyutai sur Apple Silicon. Le point de contrôle de référence est le STT-1B (anglais et français) en INT8/FP16, avec encodeur Mimi causal (32 codes audio toutes les 80 ms). Supporte les exports INT4/INT8. Licence des poids CC-BY-4.0.
Les interfaces graphiques pour utiliser les modèles locaux sans compte ni envoi vers le cloud : LM Studio, ComfyUI, Fooocus et Open WebUI. Les studio du catalogue sont les ressources filles.
Application macOS de dictée 100 % locale : transcription avec Whisper sur l'appareil et réécriture avec un LLM local (Qwen) sur la GPU M-series. Le texte arrive dans l'application cible ; aucune donnée ne passe par le cloud.
L'outil classique en ligne de commande pour capturer les paquets réseau : la voie la plus directe pour voir qui parle avec l'extérieur depuis votre machine.
L'outil avec interface graphique pour capturer et analyser le trafic réseau : filtres, couleurs, statistiques et visualisation en temps réel de chaque connexion.
