Outils, frameworks et modèles pour l'IA locale
133 ressources disponibles
Modèle open-weight de 7B (DiT de 32 couches) qui unifie génération à partir de texte jusqu'à 2048x2048, édition avec jusqu'à 10 images de référence et transparence RGBA native. Pensé pour tourner en local sur 16Go+ de VRAM ; supporté par diffusers et ComfyUI.
Modèle ultra-compact de 0,5 milliard de paramètres. S'exécute sur n'importe quel matériel, y compris embarqué : idéal pour des résumés légers et des appareils locaux à très faible consommation.
Saut net en raisonnement et qualité d'instruction par rapport aux 8B. Excellent pour le code, les agents et la rédaction structurée sur GPU 16 Go ou Mac avec 32 Go de RAM.
Qualité proche des modèles 70B à une fraction de la taille : le point idéal pour les usages avancés. Excellent en italien, en code et en raisonnement. Exige 24 Go de VRAM ou plus.
Modèle de 3 milliards de paramètres au soutien multilingue excellent, y compris l'italien. Bon équilibre entre qualité et exigences matérielles pour résumés et rédaction.
Le meilleur modèle dense open de sa classe, avec un soutien multilingue de premier ordre en italien, en français et dans d'autres langues européennes. Exige 48-80 Go.
Modèle Mixture-of-Experts : 30B de paramètres au total mais seulement 3,3B actifs par token. Vitesse d'un petit modèle avec la qualité d'un modèle moyen ; le meilleur rapport qualité/vitesse de sa classe.
Il modello dense 8B della famiglia Qwen3: 8,19B di parametri, contesto nativo di 40K token (espandibile con YaRN) e ragionamento in modalità think/non-think attivabile per prompt. Licenza Apache 2.0. È il punto di equilibrio per l'uso locale su GPU da 8-12GB: in Q4_K_M occupa circa 5GB, lasciando spazio per contesto lungo.
Il modello dense multimodale della generazione Qwen3.8 di Alibaba: 27,78B di parametri, input testo+immagini+video e contesto nativo di 262K token. Licenza Apache 2.0. L'attenzione ibrida (DeltaNet lineare + GQA) riduce la KV cache di circa il 75% rispetto a un transformer standard: in Q4_K_M sta su una singola GPU da 24GB.
Modèle de modération de la sécurité de 0,6B avec classifieur à niveau de token pour la surveillance en temps réel pendant la génération incrémentale. Trois niveaux de gravité (sûr, controversé, non sûr) et 119 langues : petit et local, idéal pour filtrer les sorties sans cloud.
L'état de l'art des modèles vidéo open en 720p : qualité de mouvement et cohérence des frames de niveau professionnel. Exige 24 Go de VRAM ou plus.
La Radeon con la maggiore capacità consumer: 24GB GDDR6 a 960 GB/s (bus 384-bit). Per l'IA locale la capacità batte la novità: mentre le schede da 16GB non caricano i modelli 27B, qui Qwen3.8-27B e i 32B in Q4 ci stanno con contesto ampio. 960 GB/s è il 96% della RTX 4090. ROCm ufficiale (gfx1100), 355W.
La GPU RDNA 4 di AMD: 16GB GDDR6 su bus 256-bit (640 GB/s), 64 CU, 304W. Con ROCm 7 la prima Radeon consumer con supporto ufficiale su Linux (gfx1201, senza workaround): ~92 tok/s su gpt-oss-20b, ~52 tok/s su Qwen 14B. Il 640 GB/s è il 43% in più della RTX 5060 Ti 16GB: la carta 16GB più veloce per modelli 9-20B, ma il 16GB non tiene un 27B dense.
La APU AMD con la massima memoria unificata su x86: fino a 128GB di LPDDR5X condivisa tra CPU (16 core Zen 5), GPU integrata (40 CU RDNA 3.5) e NPU. Fino a 96GB allocabili alla GPU: modelli fino a 100B+ a 4 bit senza GPU dedicata, su mini-PC o laptop. Bandwidth 256 GB/s.
La puce Apple haut de gamme : jusqu'à 256 Go de mémoire unifiée sur Mac Studio. La manière la plus simple d'exécuter des modèles 70B et plus, CPU et GPU partageant la même mémoire.
Puce Apple Silicon aux performances exceptionnelles pour le développement mobile et l'inférence edge.
Il chip Apple Silicon di punta per l'IA locale: 18 core CPU e 40 core GPU con memoria unificata fino a 128GB a 614 GB/s. Il Neural Accelerator su ogni core GPU raddoppia la velocità dei modelli MoE in decode rispetto alla generazione M4: ~88 tok/s su gpt-oss-120b, il più veloce della classe.
Il desktop compatto di Apple con il chip M6, primo processore Apple in 2nm: 12 core CPU, 12 core GPU con Neural Accelerator in ogni core e Neural Engine doppio da 16 core. 16GB di memoria unificata di serie (fino a 32GB, 170 GB/s), Wi-Fi 7, Thunderbolt 5. La piattaforma d'ingresso per IA locale: modelli fino a ~20B quantizzati a 4 bit girano interamente sul dispositivo, e la versione M5 Pro arriva a 64GB e 307 GB/s.
La workstation Apple di fascia alta: M5 Max con 18 core CPU, GPU fino a 40 core con Neural Accelerator e fino a 128GB di memoria unificata a 614 GB/s. Modelli fino a ~120B in 4 bit (e i MoE a bassa attivazione come gpt-oss-120b in tempo quasi reale), con MLX e llama.cpp. 10GbE di serie, Thunderbolt 5, fino a 8 display.
Il Mac più potente di Apple: M5 Ultra, primo chip a quattro die (due M5 Max uniti da UltraFusion), fino a 36 core CPU, 80 core GPU e 512GB di memoria unificata a 1,2 TB/s. Pensato per modelli frontier-class in locale: MoE da centinaia di miliardi di parametri e RAG su corpora enormi, senza cloud. Il clustering RDMA di più unità porta fino a 3× l'inferenza distribuita.
Le modèle d'images open le plus avancé : adhérence au prompt excellente, anatomie solide et fine-tuning complet. La référence pour les usages sérieux.
Génération en très peu d'étapes avec une haute qualité et un excellent rendu du texte. La version distillée de FLUX, pensée pour la vitesse.
Modèle MoE de DeepSeek avec 552B de paramètres au total et 8 à 16B actifs par token. Contexte de 1M de tokens, licence MIT : usage commercial libre. Conçu pour le service en ligne, trop grand pour un usage local sur un seul PC.
Famille de modèles open de Google en tailles 1B, 4B, 12B et 27B. Contexte de 128K tokens, plus de 140 langues supportées et entrées multimédias (texte et images). Excellent choix pour le RAG et les documents longs sur du matériel grand public.
La taglia compatta della famiglia Gemma 3 di Google: 4,32B di parametri, contesto di 128K token e supporto nativo a 140+ lingue (incluso l'italiano), con input testo+immagini. Licenza Gemma (uso commerciale con condizioni). In Q4_K_M occupa circa 2,9GB: gira su GPU da 8GB e su CPU moderne.
La taglia 12B della famiglia Gemma 4 di Google: 11,95B dense, contesto 256K e multimodalità integrata senza encoder separati (testo+immagini+audio). Licenza Apache 2.0. In Q4_K_M occupa circa 7,4GB: il punto di equilibrio tra qualità e requisiti hardware per l'uso locale su 8-16GB.
Il modello MoE della famiglia Gemma 4: 25,2B di parametri totali con 3,8B attivi per token. Contesto 256K, input testo+immagini, oltre 140 lingue, Apache 2.0. In Q4_K_M pesa circa 16,8GB: la scelta per chi ha 24GB di VRAM e vuole qualità da modello grande con velocità da modello piccolo.
Modèle compact de la famille Gemma 4 de Google : 8B de paramètres au total, dont 4,5B effectifs grâce aux embeddings par couche (PLE). Contexte de 131K tokens, plus de 140 langues, entrées texte+images et audio. La taille d'entrée de la famille Gemma 4 pour l'usage local sur 8-16GB.
Plateforme API pour exécuter des modèles ML sans gérer d'infrastructure.
Plateforme serverless pour déployer et mettre à l'échelle automatiquement des modèles IA avec GPU.
La prima scheda Intel da prendere sul serio per l'IA locale: Xe2 Battlemage, 12GB GDDR6 a 456 GB/s, 190W. 12GB a prezzo d'ingresso: i modelli 8-14B in Q4 stanno interamente in VRAM. Il software è il punto debole: IPEX-LLM è stato archiviato a gennaio 2026, il percorso mantenuto oggi è Vulkan (Ollama nativo, llama.cpp) con ~40-42 tok/s su 8B Q4.
Le plus grand modèle open de Meta : qualité de frontière fermée mais exigences de datacenter. En pratique, il exige du multi-GPU à forte VRAM ou le cloud.
Modèle open de niveau frontière avec un contexte de 131K tokens. Exige 48-80 Go de VRAM, un Mac à mémoire unifiée ou une configuration multi-GPU.
Le cheval de bataille local par excellence : qualité solide, contexte de 131K tokens et un écosystème de quantisations GGUF immense. Le choix standard pour la conversation et les assistants.
Petit modèle rapide avec un contexte jusqu'à 131K tokens. Point d'entrée idéal pour la conversation et les résumés sur du matériel modeste, excellent sur smartphones et mini-PC.
Il modello MoE grande della famiglia Llama 4 di Meta: 400B di parametri totali con 17B attivi (128 esperti). Contesto 1M di token, nativamente multimodale (testo+immagini), licenza comunitaria Meta. Richiede multi-GPU o macchine con memoria unificata 128GB+ anche quantizzato.
Le modèle MoE compact de la famille Llama 4 : 17B de paramètres actifs sur 109B au total (16 experts). Licence communautaire Meta avec usage libre sous 700 millions d'utilisateurs mensuels. L'un des meilleurs points d'entrée de la famille Llama 4.
Génère jusqu'à 30 secondes de musique ou d'effets sonores à partir d'une description textuelle. La référence des modèles musicaux open, léger et polyvalent.
Modèle de 7B rapide et efficace, bien calibré pour les tâches multilingues européennes. Excellente qualité d'instruction à une fraction du coût des modèles 13B et plus.
Il primo 'modello unificato' di Mistral: dense da 128B che unisce instruction-following, reasoning e coding in un'unica serie di pesi, sostituendo Medium 3.1, Magistral e Devstral 2. Multimodale (testo+immagini), contesto 256K, ragionamento configurabile. Open weights con licenza Modified MIT: uso libero fino a una soglia di fatturato per le grandi aziende.
Il modello della linea Small di Mistral, ora MoE: 119B di parametri totali con 6,5B attivi per token (128 esperti, 4 attivi). Unifica instruct, reasoning e coding in un unico modello multimodale (testo+immagini) con contesto 256K. Licenza Apache 2.0.
Huit experts de 7B dont deux actifs par token : 47B de paramètres au total et un raisonnement de grand modèle à une fraction du coût de calcul. Un classique du monde open.
Implémentation C++ de LLM pour une inférence efficace sur CPU et GPU grand public.
Sintesi vocale in locale a bassa latenza basata su ONNX: genera parlato naturale da testo in tempo quasi reale, anche su CPU. Multilingue (italiano incluso) e facile da integrare nei pipeline: download del modello, una riga di comando. MIT.
Serving haute cadence de LLM avec PagedAttention et des optimisations matérielles.
Il port C/C++ ad alte prestazioni di Whisper: trascrizione vocale in locale ottimizzata per CPU e Apple Silicon, senza dipendenze da Python. Quantizzazione GGML (Q4_0–Q8_0) con riduzione fino al 65% a disco, streaming via whisper-stream, accelerazione Metal/Vulkan. MIT.
GPU datacenter de 80 Go de HBM2e : la référence pour le training et l'inférence en datacenter. Exige des serveurs dédiés et une alimentation enterprise.
La workstation desktop NVIDIA per l'IA locale: superchip Grace Blackwell GB10 con 128GB di memoria unificata a 273 GB/s e circa 1 petaFLOP in FP4. CUDA completo, ~12 tok/s su modelli 27B a 4 bit, prefill veloce su contesti lunghi. Prezzo al lancio 3.999 USD, poi 4.699 USD per la carenza di memoria.
Le GPU datacenter haut de gamme avec 80 Go de HBM3 : le top de gamme pour le training et l'inférence de grands modèles. Uniquement en configuration enterprise.
Modèle vocal end-to-end full-duplex de 11B : compréhension et génération audio dans une seule architecture, sans stack en cascade ASR→LLM→TTS. Premier modèle full-duplex open avec tool calling pendant la conversation, réponses en ~450ms, interruptions et tours naturels.
Le GPU grand public le plus abordable avec 12 Go de VRAM : le point d'entrée pour l'inférence locale. Fait tourner confortablement les modèles 7-8B quantisés.
24 Go de VRAM à des prix d'occasion très avantageux : la manière la plus économique d'atteindre 24 Go pour les modèles 30B. Production terminée.
16 Go de VRAM à un prix entry-level : le bon choix pour les modèles 13-14B quantisés. Bonne autonomie pour un usage personnel.
16 Go de VRAM avec 672 Go/s de bande passante : des performances haut de gamme à prix contenu. Parmi les meilleurs rapports VRAM/prix.
La carte graphique grand public la plus puissante au monde pour l'entraînement local et l'inférence haute vitesse.
Il 16GB d'ingresso della generazione Blackwell: GB206, 16GB GDDR7 a 448 GB/s, 180W, PCIe 5.0 x8. Lancio a 429 USD: il modo più economico di far girare Qwen3.8-27B e i modelli 30B+ in Q4 su una singola scheda. Prezzo street 2026 più alto per la carenza di GDDR7.
Blackwell GB205 di fascia media: 12GB GDDR7 su bus 192-bit (672 GB/s), 6.144 CUDA core, 250W. Supporto completo ai formati FP4/FP8 per l'inferenza. Lancio a 549 USD, marzo 2025.
Blackwell GB203 da fascia alta: 16GB GDDR7 su bus 256-bit (896 GB/s), 8.960 CUDA core, 300W. Il 16GB rende possibile Qwen3.8-27B o i modelli 30B+ in Q4 con contesto ampio. Lancio a 749 USD, febbraio 2025.
Il modello di ragionamento open-weight di OpenAI: MoE con 21B di parametri totali e 3,6B attivi (32 esperti, top-4), contesto 128K e quantizzazione MXFP4 nativa. Licenza Apache 2.0: i pesi partono già quantizzati a 4 bit, senza passo di conversione. Sta in 16GB di VRAM e gira anche su RAM unificata o CPU.
Il modello di trascrizione di riferimento per l'IA locale: 809M di parametri, 99 lingue, licenza MIT. Versione distillata di Large-v3 con decoder ridotto da 32 a 4 layer: trascrive circa 8 volte più veloce con perdita di accuratezza trascurabile. Gira in tempo reale su una GPU consumer e anche solo su CPU.
Jusqu'à 47 secondes d'audio à partir du texte : musique et effets sonores de haute qualité. Excellent pour les productions sonores et le sound design locaux.
Le classique de la génération d'images : rapide, léger et doté du plus vaste écosystème de LoRA et ControlNet. Parfait pour des GPU de 6-8 Go.
La référence actuelle pour les images photoréalistes et artistiques en 1024px. Meilleure adhérence au prompt et compositions plus cohérentes que SD 1.5.
Transforme une image en court clip vidéo d'environ 2 secondes. Le point d'entrée pour la génération vidéo locale ; 16 Go de VRAM recommandés.
Le workflow visuel à nœuds pour les modèles de diffusion : la référence pour SDXL, FLUX, vidéo et audio. Maximale flexibilité, de la pipeline simple à la pipeline professionnelle.
Génération d'images SDXL en un clic, style Midjourney : zéro paramètre à gérer. La voie la plus simple pour produire des images de qualité.
Application desktop sans terminal pour télécharger et exécuter des modèles GGUF : interface graphique, recherche de modèles intégrée et serveur local. La voie la plus simple pour commencer.
Interface web complète de type ChatGPT pour Ollama et llama.cpp : comptes multi-utilisateurs, conversations organisées, gestion des documents pour le RAG, prompt système par modèle, outils et plugins. La version 0.11.4 (septembre 2026) fait voyager les métadonnées des fichiers avec les blocs récupérés et exécute la recherche hybride nativement dans la base de données : les grandes bases de connaissance sont beaucoup plus rapides. La manière la plus simple de transformer votre IA locale en un produit d'usage quotidien.
Alibaba Group : les modèles Qwen font partie des LLM open-weight les plus performants au monde, publiés sous licences permissives. Les modèles Qwen du catalogue sont les ressources filles.
AMD : les GPU Radeon d'architecture RDNA sont la seconde plateforme grand public pour l'IA locale. Depuis ROCm 7, les cartes consumer (RX 7900 XTX, RX 9070 XT) sont officiellement prises en charge sur Linux sans contournement, et l'APU Strix Halo pousse jusqu'à 128 Go de mémoire unifiée dans un portable. Les GPU et APU du catalogue sont les ressources filles.
Apple Inc. (Cupertino, USA) : les puces Apple Silicon et les Mac à mémoire unifiée sont une référence pour l'IA locale sur matériel grand public. Les produits Apple du catalogue sont les ressources filles.
Black Forest Labs (Monaco de Bavière, Allemagne) : les modèles FLUX, la référence actuelle de la génération d'images open de haute qualité. Les modèles FLUX du catalogue sont les ressources filles.
DeepSeek (Shenzhen, Chine) : les LLM open-weight les plus efficaces de leur classe, axés sur les MoE à faible activation. DeepSeek V4.1-Flash pousse 552B de paramètres totaux avec ~8B actifs et un contexte de 1M. Les modèles du catalogue sont les ressources filles.
Google DeepMind : les modèles Gemma sont la ligne open-weight de Google — compacts, multilingues et multimodaux, sous licence permissive. La famille Gemma 4 (2026) atteint un contexte de 256K. Les modèles du catalogue sont les ressources filles.
Intel : les GPU Arc (Xe) sont la troisième plateforme grand public pour l'IA locale, avec 12-16 Go de VRAM à prix d'entrée. La voie d'inférence maintenue est Vulkan (Ollama natif, llama.cpp) : le projet IPEX-LLM a été archivé en janvier 2026. Les GPU du catalogue sont les ressources filles.
Meta Platforms : la famille Llama est la ligne de LLM open-weight la plus répandue au monde, de 1B à 405B de paramètres, avec licence commerciale. Les modèles Llama du catalogue sont les ressources filles.
Mistral AI (Paris, France) : les LLM européens open-weight les plus efficaces, avec des licences permissives et une attention à la confidentialité et à la localisation. Les modèles Mistral du catalogue sont les ressources filles.
NVIDIA : les GPU d'architecture CUDA sont le standard de fait de l'inférence IA locale. La VRAM détermine quels modèles tournent en local : 24 Go (RTX 4090) couvrent ~30B quantifiés, 80 Go (A100/H100) les modèles 70B+ en précision complète. Les GPU du catalogue sont les ressources filles.
OpenAI : au-delà des modèles cloud (GPT-5), la série gpt-oss (2025) a rendu ses modèles de raisonnement open-weight et gratuits, en MXFP4 — les premiers grands modèles de reasoning exécutables sur un ordinateur portable. Whisper est la référence ouverte de la transcription vocale. Les modèles du catalogue sont les ressources filles.
Stability AI (Londres, Royaume-Uni) : les modèles Stable Diffusion pour la génération d'images, de vidéos et d'audio, open-weight avec licences permissives. Les modèles Stable du catalogue sont les ressources filles.
Il supercomputer desktop di NVIDIA basato su GB300 Grace Blackwell Ultra: fino a 748GB di memoria coerente, fino a 20 petaflop in FP4, CPU Grace a 72 core collegati via NVLink-C2C. Pensato per sviluppare ed eseguire agenti e modelli frontier-class al desk. Annunciato a GTC nel marzo 2025; versione per Windows annunciata il 1 giugno 2026 in arrivo a fine anno. Listino nell'ordine dei 99.000 USD.
Ordinateur à carte unique avec une CPU ARM Cortex-A76 8 cœurs et 2 à 16 Go de RAM : la référence pour apprendre et exécuter de petits modèles d'IA locale en inférence sur CPU.
CLI de NVIDIA en Rust pour le développement du noyau Linux assisté par IA, avec un focus sur l'IA locale : validation de patchs, build, boot et tests, pensée pour le backporting de patchs vers des noyaux plus anciens. Elle prend en charge des back-ends locaux (Claude, OpenCode, Codex) ou des serveurs OpenAI-compatibles. Licence Apache 2.0, mené par Andrea Righi.
Outil open source qui estime la vitesse d'inférence d'un modèle local sur plus de 250 configurations matérielles (GPU, Mac, CPU) : estimations mesurées depuis des benchmarks communautaires ou dérivées de setups similaires. Sert à choisir le matériel avant de l'acheter.
Guide en ligne qui croise modèles open-weights et matériel réel : pour chaque GPU, Mac et mini-PC, elle montre ce qui tourne, combien d'espace il faut et à quel débit en tokens/seconde, avec des guides sur la quantification et la mémoire. L'outil idéal pour la voie du matériel propre.
Proxy open source qui intercepte et affiche les contenus des requêtes HTTPS en clair : l'outil pour vérifier ce qui part vraiment sur le réseau depuis votre configuration d'IA locale.
App GTK4/libadwaita pour GNOME pour discuter avec des modèles locaux via Ollama, en Rust et sous GPLv3 : elle gère l'installation d'Ollama, les modèles et le chargement de documents et d'images locaux.
Les runtime qui font tourner les modèles locaux sur votre matériel : Ollama pour la simplicité, llama.cpp pour la portabilité, vLLM pour le débit de production. Les moteurs du catalogue sont les ressources filles.
Outil Python à dépendance nulle qui reconnaît et résume chaque fichier avec un LLM local (Ollama, LM Studio ou MLX-LM), entièrement hors ligne. Détecte le type par le contenu, extrait la structure (CSV, e-mails, scripts, logs) et signale les fichiers contenant des instructions à l'assistant. Fonctionne aussi sans modèle (--no-llm). Licence MIT.
Runtime Swift/MLX pour la reconnaissance vocale en flux de Kyutai sur Apple Silicon. Le point de contrôle de référence est le STT-1B (anglais et français) en INT8/FP16, avec encodeur Mimi causal (32 codes audio toutes les 80 ms). Supporte les exports INT4/INT8. Licence des poids CC-BY-4.0.
Les interfaces graphiques pour utiliser les modèles locaux sans compte ni envoi vers le cloud : LM Studio, ComfyUI, Fooocus et Open WebUI. Les studio du catalogue sont les ressources filles.
Application macOS de dictée 100 % locale : transcription avec Whisper sur l'appareil et réécriture avec un LLM local (Qwen) sur la GPU M-series. Le texte arrive dans l'application cible ; aucune donnée ne passe par le cloud.
L'outil classique en ligne de commande pour capturer les paquets réseau : la voie la plus directe pour voir qui parle avec l'extérieur depuis votre machine.
L'outil avec interface graphique pour capturer et analyser le trafic réseau : filtres, couleurs, statistiques et visualisation en temps réel de chaque connexion.
Modèle de décision System 1 de 11,4 Mo (un seul fichier), construit sur un encodeur textuel e5-small-v2. Pic de mémoire résidente de 128 Mo, tourne sur CPU. Donné un état et des questions typées, il renvoie une probabilité calibrée par option en un seul passage, sans générer de jetons. Anglais uniquement.
Modèle musical open le plus récent avec un contrôle excellent sur paroles et styles : génère des chansons complètes avec paroles dans plusieurs langues, dont l'italien.
Modèle décisionnel open de 35B paramètres (3B actifs) d'Autotrust, fine-tune de Qwen3.5-35B-A3B pour la classification de texte et le scoring du risque. Quantisé en NVFP4, il occupe environ 25,6 Go de VRAM : il tourne sur un GPU 32 Go sans passer par une inférence frontière.
Le modèle décisionnel de 9B de Bespoke Labs : il tourne entièrement en local via Ollama 0.35 et répond à des questions typées (vrai/faux, échelle numérique, choix multiple) avec la nouvelle API systemone. Conçu pour la classification rapide dans les pipelines automatisés, sans cloud.
Modèle de raisonnement de 27B aux poids ternaires à 1,72 bit par poids, dérivé de Qwen3.8-27B avec attention hybride (~75 % linéaire). En GGUF PTQ1_0 il occupe 5,95 Go, conserve 98,2 % de l'intelligence FP16 et atteint ~47 tok/s sur un laptop Apple M5 Max, avec un contexte de 262K tokens. Licence Apache 2.0. Exige la fork llama.cpp de Prism ML (les noyaux ternaires ne sont pas dans llama.cpp stock).
Modèle de décision multimodal de 27B (base Qwen3.8-27B) de Cloudflare : il lit un état (texte, JSON, images, vidéo) et un schéma de questions typées et renvoie une probabilité pour chaque option en une seule passe, sans génération de texte. Compatible avec l'API Jev et SystemOne.
Modèle d'images de 5,6 Md open weights pour texte-vers-image, édition par référence et composition multi-références en un seul modèle, avec des boîtes de positionnement dans le prompt. Encodeur texte Qwen3-VL-4B. En BF16 (11,1 Go), FP8 et NVFP4 (5,3 Go). Licence FLUX Kommunity (usage non commercial + exception pour utilisateurs qualifiés).
Modello MoE open-weight di inclusionAI: 560B parametri totali, 25B attivi per token, architettura ibrida (attenzione lineare KDA + Gated MLA), finestra di contesto fino a 1M di token, licenza MIT. Reasoning ibrido con modalità di pensiero on/off. A 4 bit entra in 512GB di memoria unificata.
Les modèles fondateurs de Kandinsky Lab pour la génération synchronisée de vidéo et d'audio : à partir d'un prompt, ils génèrent des clips vidéo avec audio aligné, publiés en poids ouverts. Premier papier de la journée sur Hugging Face (2026-10-06), avec points de contrôle et Spaces déjà disponibles.
Modèle de synthèse vocale de 82M de paramètres sur architecture VITS, Apache-2.0 pour les poids, avec des voix dans des dizaines de langues et une qualité surprenante pour sa taille. Tourne efficacement même uniquement sur CPU.
MoE d'Aleph Alpha : 78,1B de paramètres (3,46B actifs par token), Apache 2.0, poids en FP8, contexte jusqu'à 1M de tokens, mode raisonnement et tool calling. Conçu pour des charges mission-critical sur matériel local.
Génération vidéo ouverte et rapide : texte ou image vers vidéo en 768px avec une bonne qualité de mouvement. Parmi les modèles vidéo open les plus rapides.
API d'inférence pour les modèles Claude d'Anthropic (Claude 1 depuis 2023). Comme OpenAI, la facturation se fait au token, en entrée et en sortie, avec des limites de requêtes par forfait : la voie frontière sans serveur propre.
Réimplémentation de Whisper basée sur CTranslate2 : jusqu'à 4 fois plus rapide qu'openai/whisper avec la même précision et moins de mémoire. Prise en charge de la quantification 8-bit sur CPU et GPU.
Les plateformes cloud pour les modèles : des alternatives quand le matériel local ne suffit pas. Replicate et Runpod du catalogue sont les ressources filles.
Moteur d'inférence open source (Rust, YC S25) qui compile et optimise ses noyaux directement sur le matériel cible : Apple Silicon, NVIDIA, AMD ou CPU. Sur les modèles ouverts, il revendique des vitesses jusqu'à 2× par rapport à llama.cpp. Pensa aussi au serving d'agents.
Plateforme serverless pour exécuter du code et des modèles d'IA sur GPU : on paie les secondes d'utilisation réelles, la plateforme remonte à zéro à l'arrêt et on peut y faire tourner n'importe quel modèle open-weights. L'une des voies vers une inférence sur matériel loué sans gérer de serveur.
API d'inférence pour les modèles frontière d'OpenAI (série GPT). Facturation au token : prix fixe par million de tokens en entrée et en sortie, sans GPU à gérer et avec des limites de débit par niveau de compte.
Gateway cloud pour l'inférence LLM : un seul endpoint API pour des centaines de modèles (dont les MoE open-weight), avec prix par token et routage automatique entre providers. Pour Ling 3.1 Flash : 0,075 $/M d'entrée, 0,225 $/M de sortie.
Moteur de serving open source pour LLM avec RadixAttention, continuous batching et décodage spéculatif de premier plan (MTP, EAGLE, draft model, ngram). Licence Apache-2.0.
Marché de GPU en location : les propriétaires de GPU mettent leur capacité en vente et se louent à l'heure ou par période, à des prix qui suivent la demande. Une voie intermédiaire entre le cloud frontière et le matériel propre.
Bibliothèque Python de Hugging Face pour exécuter les pipelines des modèles génératifs : image, vidéo et audio. C'est le moyen standard de faire tourner des modèles comme Qwen-Image en local, avec support CUDA et offload CPU pour les GPU à mémoire réduite.
La bibliothèque de référence pour le NLP et les modèles multimodaux, avec des milliers de modèles pré-entraînés.
Framework pour construire des applications basées sur des LLM avec chains, agents et tool use.
Framework open source pour le fine-tuning unifié de 100+ LLM et VLM (Qwen, Llama, Mistral, Gemma) : du SFT complet à LoRA, QLoRA et DPO, avec WebUI intégrée et démarrage depuis un seul fichier YAML. Projet de référence de la communauté (ACL 2024).
Framework d'apprentissage automatique d'Apple pour Apple Silicon : arrays avec calcul paresseux sur CPU et GPU unifiées, mémoire unifiée comme atout. La bibliothèque mlx-lm apporte entraînement, fine-tuning (LoRA/QLoRA) et inférence de LLM directement sur Mac.
Plateforme d'automatisation de workflow auto-hébergée : un canevas visuel à nœuds pour connecter applications, données et modèles IA (locales ou API), avec des nœuds AI Agent et plus de 400 intégrations.
Plateforme distribuée pour mettre à l'échelle des applications ML et IA.
Framework de fine-tuning optimisé pour GPU NVIDIA et Apple Silicon : matrices custom en CUDA qui réduisent l'usage de mémoire et doublent la vitesse d'entraînement par rapport aux méthodes standard. Supporte LLM et modèles de diffusion.
