Actualités
Dernières actualités et mises à jour sur l'IA locale
18 actualités dans Outils et sorties
LLMspeed : testez la vitesse de votre futur modèle local avant l'achat
18 octobre 2026LLMspeed est un outil Open Source (showcase Hacker News) qui estime la vitesse d'Inférence de plus de 250 combinaisons modèle/matériel : de la RTX 3060 à la H100, Mac Studio M5 Ultra, CPU seul. Les estimations mesurées viennent de benchmarks communautaires (r/LocalLLaMA, localscore.ai), les autres sont dérivées de configurations similaires ou projetées depuis les spécifications. Utile pour choisir le matériel avant de dépenser.
Secret Guard : gateway LLM local qui remplace les secrets avant de les envoyer au provider
18 octobre 2026Outil Open Source (Rust) servant de gateway local : il remplace les secrets sortants par des mocks réalistes de même longueur et les restaure à l'arrivée, pour que l'LLM ne touche jamais une valeur réelle. Intégration en une ligne. À vérifier avec la source primaire.
vLLM sort la v0.32.0rc3 : correction du NaN du noyau Mamba2 sur sm90
17 octobre 2026La release candidate v0.32.0rc3 de vLLM corrige le NaN en sortie du noyau chunk-scan de Mamba2 sur sm90. Pertinent pour qui sert des modèles hybrides state-space (Mamba2) sur du matériel Blackwell : c'est la build qui sert aussi les modèles décisionnels comme JEV-35B.
llama.cpp b11716 : support Q1_0 et Q2_0 sur le backend NPU Snapdragon (Hexagon)
17 octobre 2026Le build b11716 ajoute au backend Hexagon (NPU Snapdragon) le support des quantifications Q1_0 et Q2_0, étendant l'Inférence sur NPU mobile aux quantifications les plus agressives. Pré-release, 17 octobre.
sift : reconnaît et résume chaque fichier avec un LLM local, entièrement hors ligne
17 octobre 2026sift est un outil Python à dépendance nulle qui détecte le type d'un fichier par son contenu (pas seulement l'extension), en extrait la structure et demande à un LLM local — Ollama, LM Studio ou MLX-LM — de le classifier et le résumer. Rien ne quitte la machine ; il compte les chiffres lui-même et signale les fichiers qui s'adressent à l'assistant.
Local Model Guide : quels LLM tournent sur votre machine
15 octobre 2026Un index en ligne recense les modèles locaux et indique lesquels tournent sur votre machine selon la RAM et la VRAM disponibles : utile avant d'acheter du matériel pour l'IA locale.
ComfyUI v0.40.0 : comfy_attention pour tous les modèles, asset API locale et sorties 3D
14 octobre 2026La v0.40.0 étend comfy_attention et AttentionTensorContainer au reste des modèles, apporte l'API d'export d'assets directement dans le serveur local et fait sortir de chaque nœud 3D les modèles en tant que sortie standard. En plus : nœud CreateCameraInfo avec le widget CameraInfoState, métadonnées vidéo extraites en system_metadata à l'ingest et CSP mis à jour pour blob: et data:.
Le noyau Linux envisage de supprimer le tag « Assisted-by » pour les patches écrits avec de l'IA
14 octobre 2026Depuis que les assistants IA sont entrés dans l'usage quotidien, les patchs du noyau Linux avec des contributions d'IA/LLM devaient le déclarer via le tag « Assisted-by: ». Face à un usage désormais ubiquitaire de ces outils, les développeurs du noyau envisagent de supprimer l'obligation — la déclaration devient un choix, pas un requis.
EpochGo : AutoML multi-agent local-first sur Ollama, coût API nul
12 octobre 2026Un projet GitHub qui exécute des workflows AutoML multi-agents entièrement sur Ollama, sans appels API ni cloud. Vérifié à la source primaire ; projet en phase initiale (signal HN faible).
GridCore : un scheduler qui fait partager une GPU à plusieurs LLM locaux
6 octobre 2026Un outil Open Source qui planifie plusieurs LLM locaux sur le même GPU, en évitant qu'ils se disputent la VRAM à tour de rôle. Utile pour ceux qui font tourner plusieurs modèles (un assistant, un embedder, un classifieur) sur la même carte et veulent des latences prévisibles.
Le modèle local répond en rafale ? La faute est souvent au chat template
1 octobre 2026Un article bien argumenté explique pourquoi un modèle local qui se plante, ignore le System prompt ou continue de générer au-delà de la réponse est presque toujours un problème du chat template ou des métadonnées de jetons dans le fichier GGUF, et non des poids : et comment les corriger avec GGUF-surgeon sans re-quantifier.
Sriti Core : un routeur LLM local-first qui cascade d'Ollama vers le cloud
1 octobre 2026Un proxy de routage Open Source (Apache 2.0) qui sert de cascade pour les modèles LLM : il part du modèle local sur Ollama et monte vers le cloud seulement quand c'est nécessaire, avec cache sémantique et suivi de fiabilité pour chaque hop. Un pattern intéressant pour ceux qui veulent le local par défaut.
Magnitude : un moteur d'inférence open source qui s'optimise tout seul
30 septembre 2026Lancé sur Hacker News (YC S25), Magnitude est un moteur d'Inférence écrit en Rust qui compile et ajuste ses noyaux directement sur le matériel cible. Sur les modèles ouverts, il revendique des vitesses jusqu'à 2× par rapport à llama.cpp, sur Apple Silicon, NVIDIA, AMD et CPU. Vérifié sur le dépôt officiel.
Qt 6.12 LTS publiée avec rechargement à chaud QML
30 septembre 2026Qt 6.12 LTS arrive avec le rechargement à chaud QML en forme expérimentale et le nouveau StyleKit : des outils de développement plus rapides pour ceux qui construisent des interfaces bureau et embarquées — pertinent aussi pour les UI locales des applications avec IA intégrée.
Ollama v0.34.0 : les modèles Ollama arrivent dans ChatGPT Desktop
5 septembre 2026Ollama v0.34.0 permet d'utiliser les modèles Ollama locaux directement dans ChatGPT Desktop sur macOS, améliore les performances de la sortie structurée sur Apple Silicon et ajoute la recherche de tools et la compaction des réponses dans l'API compatible OpenAI.
Ollama v0.33.2 : retour du mode sombre et le proxy Claude Desktop n'interrompt plus les requêtes
27 août 2026L'application Ollama suit à nouveau l'apparence du système en restaurant le mode sombre, l'instance macOS déjà ouverte n'est plus dupliquée et le proxy pour Claude Desktop n'interrompt plus les requêtes en cours lorsque le catalogue de modèles est mis à jour.
Ollama v0.33.0 : Claude Desktop peut utiliser des modèles locaux en tant que passerelle
21 août 2026La release ajoute la configuration de Claude Desktop avec Ollama comme passerelle tierce, ainsi que d'importantes améliorations de la mise en cache : les points de restauration du Prefill rendent les reprises bien plus efficaces et corrigent un blocage avec les clients annulant les Prefill longs.
Ollama ajoute de nouveaux modèles et améliore ses performances
24 juillet 2026La mise à jour d'Ollama ajoute le support de nouveaux modèles Open Source et améliore mesurables des performances d'Inférence. Conseil : après chaque mise à jour, redémarrez le serveur et vérifiez avec `Ollama list`.