Votre IA est toujours prête : comme votre voiture plutôt que le taxi. Aucune file, aucune limite de requêtes.
Vos données ne quittent pas votre matériel. Point.
Pas d'abonnement, pas de coût par requête. Une fois que vous avez le matériel, l'IA est à vous.
Block présente Dessa, un modèle vocal entraîné depuis zéro sur des conversations humaines. L'entreprise l'utilise déjà pour l'assistance téléphonique : un cas d'école sur ce que vaut un TTS/STT non fine-tuné sur un grand modèle existant.
AMD intègre son fork ZenDNN dans oneDNN et rejoint le board UXL ; Intel apporte ses extensions ACE pour la multiplication de matrices. oneDNN devient la bibliothèque x86 par défaut dans PyTorch : un seul parcours logiciel à optimiser pour l'IA locale sur CPU, quel que soit le vendor.
Un agent mobile near-frontier est publié avec environnements et recettes de training entièrement ouverts : MobileGym++ simule 35 applications commerciales avec des workflows cross-app, avec reset et vérification contrôlables. Pertinent pour qui construit des agents on-device.
LLMspeed est un outil open source (showcase Hacker News) qui estime la vitesse d'inférence de plus de 250 combinaisons modèle/matériel : de la RTX 3060 à la H100, Mac Studio M5 Ultra, CPU seul. Les estimations mesurées viennent de benchmarks communautaires (r/LocalLLaMA, localscore.ai), les autres sont dérivées de configurations similaires ou projetées depuis les spécifications. Utile pour choisir le matériel avant de dépenser.
MLExpert pousse la barre à 35B et 72,7 % de médailles ; EpochGo fait tourner trois agents AutoML sur 16 Go, sans API : ce qui marche aujourd'hui, les comptes et les limites.
AMD fusionne ZenDNN dans oneDNN, Intel intègre ses extensions ACE : une seule pile open source pour l'accélération x86 dans PyTorch, déjà par défaut. Ce que ça change si vous faites tourner des modèles en local sur CPU.
NVIDIA a réédité Nemotron Parse (v1.1, v1.2, 2.0) dans la même semaine du 20 octobre : moins d'un milliard de paramètres, structure de page incluse. Installation locale avec vLLM, et limites honnêtes.
Guide en ligne qui croise modèles open-weights et matériel réel : pour chaque GPU, Mac et mini-PC, elle montre ce qui tourne, combien d'espace il faut et à quel débit en tokens/seconde, avec des guides sur la quantification et la mémoire. L'outil idéal pour la voie du matériel propre.
Modèle Mixture-of-Experts : 30B de paramètres au total mais seulement 3,3B actifs par token. Vitesse d'un petit modèle avec la qualité d'un modèle moyen ; le meilleur rapport qualité/vitesse de sa classe.
Il modello MoE della famiglia Gemma 4: 25,2B di parametri totali con 3,8B attivi per token. Contesto 256K, input testo+immagini, oltre 140 lingue, Apache 2.0. In Q4_K_M pesa circa 16,8GB: la scelta per chi ha 24GB di VRAM e vuole qualità da modello grande con velocità da modello piccolo.
Le GPU grand public le plus abordable avec 12 Go de VRAM : le point d'entrée pour l'inférence locale. Fait tourner confortablement les modèles 7-8B quantisés.
Il modello di ragionamento open-weight di OpenAI: MoE con 21B di parametri totali e 3,6B attivi (32 esperti, top-4), contesto 128K e quantizzazione MXFP4 nativa. Licenza Apache 2.0: i pesi partono già quantizzati a 4 bit, senza passo di conversione. Sta in 16GB di VRAM e gira anche su RAM unificata o CPU.
Home.setup_preview_cta_desc
Un PDF gratuit, étape par étape : matériel, modèles, outils et premiers pas pour amener l'IA dans votre entreprise, sans cloud et sans partager vos données.
Télécharger le guide gratuitGratuit. Sans engagement. Aucune adresse e-mail requise.
La newsletter est gratuite et il suffit de votre email. Avec un compte complet, le site travaille pour vous : sauvegardez vos configurations, personnalisez votre profil et gardez le contrôle.
Enregistrez vos configurations matériel et modèle : vous les retrouvez toutes, prêtes, à votre retour.
Nom, bio et préférences : votre espace sur le site, à vous pour toujours.
Accès simple à toute l'archive de la newsletter et à la sélection hebdomadaire de ce qui change dans l'IA locale.
Gérez email, mot de passe et inscription à tout moment. Sans engagement, sans spam.
