Outils, frameworks et modèles pour l'IA locale
56 ressources trouvées pour "Open Source"
Modèle musical open le plus récent avec un contrôle excellent sur paroles et styles : génère des chansons complètes avec paroles dans plusieurs langues, dont l'italien.
Modèle de raisonnement de 27B aux poids ternaires à 1,72 bit par poids, dérivé de Qwen3.8-27B avec attention hybride (~75 % linéaire). En GGUF PTQ1_0 il occupe 5,95 Go, conserve 98,2 % de l'intelligence FP16 et atteint ~47 tok/s sur un laptop Apple M5 Max, avec un contexte de 262K tokens. Licence Apache 2.0. Exige la fork llama.cpp de Prism ML (les noyaux ternaires ne sont pas dans llama.cpp stock).
CLI de NVIDIA en Rust pour le développement du noyau Linux assisté par IA, avec un focus sur l'IA locale : validation de patchs, build, boot et tests, pensée pour le backporting de patchs vers des noyaux plus anciens. Elle prend en charge des back-ends locaux (Claude, OpenCode, Codex) ou des serveurs OpenAI-compatibles. Licence Apache 2.0, mené par Andrea Righi.
Modèle de décision multimodal de 27B (base Qwen3.8-27B) de Cloudflare : il lit un état (texte, JSON, images, vidéo) et un schéma de questions typées et renvoie une probabilité pour chaque option en une seule passe, sans génération de texte. Compatible avec l'API Jev et SystemOne.
Le workflow visuel à nœuds pour les modèles de diffusion : la référence pour SDXL, FLUX, vidéo et audio. Maximale flexibilité, de la pipeline simple à la pipeline professionnelle.
Modèle MoE de DeepSeek avec 552B de paramètres au total et 8 à 16B actifs par token. Contexte de 1M de tokens, licence MIT : usage commercial libre. Conçu pour le service en ligne, trop grand pour un usage local sur un seul PC.
Réimplémentation de Whisper basée sur CTranslate2 : jusqu'à 4 fois plus rapide qu'openai/whisper avec la même précision et moins de mémoire. Prise en charge de la quantification 8-bit sur CPU et GPU.
Famille de modèles open de Google en tailles 1B, 4B, 12B et 27B. Contexte de 128K tokens, plus de 140 langues supportées et entrées multimédias (texte et images). Excellent choix pour le RAG et les documents longs sur du matériel grand public.
La taglia 12B della famiglia Gemma 4 di Google: 11,95B dense, contesto 256K e multimodalità integrata senza encoder separati (testo+immagini+audio). Licenza Apache 2.0. In Q4_K_M occupa circa 7,4GB: il punto di equilibrio tra qualità e requisiti hardware per l'uso locale su 8-16GB.
Il modello MoE della famiglia Gemma 4: 25,2B di parametri totali con 3,8B attivi per token. Contesto 256K, input testo+immagini, oltre 140 lingue, Apache 2.0. In Q4_K_M pesa circa 16,8GB: la scelta per chi ha 24GB di VRAM e vuole qualità da modello grande con velocità da modello piccolo.
Modèle compact de la famille Gemma 4 de Google : 8B de paramètres au total, dont 4,5B effectifs grâce aux embeddings par couche (PLE). Contexte de 131K tokens, plus de 140 langues, entrées texte+images et audio. La taille d'entrée de la famille Gemma 4 pour l'usage local sur 8-16GB.
Bibliothèque Python de Hugging Face pour exécuter les pipelines des modèles génératifs : image, vidéo et audio. C'est le moyen standard de faire tourner des modèles comme Qwen-Image en local, avec support CUDA et offload CPU pour les GPU à mémoire réduite.
La bibliothèque de référence pour le NLP et les modèles multimodaux, avec des milliers de modèles pré-entraînés.
Modèle de synthèse vocale de 82M de paramètres sur architecture VITS, Apache-2.0 pour les poids, avec des voix dans des dizaines de langues et une qualité surprenante pour sa taille. Tourne efficacement même uniquement sur CPU.
Le plus grand modèle open de Meta : qualité de frontière fermée mais exigences de datacenter. En pratique, il exige du multi-GPU à forte VRAM ou le cloud.
Modèle open de niveau frontière avec un contexte de 131K tokens. Exige 48-80 Go de VRAM, un Mac à mémoire unifiée ou une configuration multi-GPU.
Le cheval de bataille local par excellence : qualité solide, contexte de 131K tokens et un écosystème de quantisations GGUF immense. Le choix standard pour la conversation et les assistants.
Petit modèle rapide avec un contexte jusqu'à 131K tokens. Point d'entrée idéal pour la conversation et les résumés sur du matériel modeste, excellent sur smartphones et mini-PC.
Framework open source pour le fine-tuning unifié de 100+ LLM et VLM (Qwen, Llama, Mistral, Gemma) : du SFT complet à LoRA, QLoRA et DPO, avec WebUI intégrée et démarrage depuis un seul fichier YAML. Projet de référence de la communauté (ACL 2024).
Outil open source qui estime la vitesse d'inférence d'un modèle local sur plus de 250 configurations matérielles (GPU, Mac, CPU) : estimations mesurées depuis des benchmarks communautaires ou dérivées de setups similaires. Sert à choisir le matériel avant de l'acheter.
Génération vidéo ouverte et rapide : texte ou image vers vidéo en 768px avec une bonne qualité de mouvement. Parmi les modèles vidéo open les plus rapides.
Moteur d'inférence open source (Rust, YC S25) qui compile et optimise ses noyaux directement sur le matériel cible : Apple Silicon, NVIDIA, AMD ou CPU. Sur les modèles ouverts, il revendique des vitesses jusqu'à 2× par rapport à llama.cpp. Pensa aussi au serving d'agents.
Modèle de 7B rapide et efficace, bien calibré pour les tâches multilingues européennes. Excellente qualité d'instruction à une fraction du coût des modèles 13B et plus.
Il primo 'modello unificato' di Mistral: dense da 128B che unisce instruction-following, reasoning e coding in un'unica serie di pesi, sostituendo Medium 3.1, Magistral e Devstral 2. Multimodale (testo+immagini), contesto 256K, ragionamento configurabile. Open weights con licenza Modified MIT: uso libero fino a una soglia di fatturato per le grandi aziende.
Il modello della linea Small di Mistral, ora MoE: 119B di parametri totali con 6,5B attivi per token (128 esperti, 4 attivi). Unifica instruct, reasoning e coding in un unico modello multimodale (testo+immagini) con contesto 256K. Licenza Apache 2.0.
Proxy open source qui intercepte et affiche les contenus des requêtes HTTPS en clair : l'outil pour vérifier ce qui part vraiment sur le réseau depuis votre configuration d'IA locale.
Huit experts de 7B dont deux actifs par token : 47B de paramètres au total et un raisonnement de grand modèle à une fraction du coût de calcul. Un classique du monde open.
Framework d'apprentissage automatique d'Apple pour Apple Silicon : arrays avec calcul paresseux sur CPU et GPU unifiées, mémoire unifiée comme atout. La bibliothèque mlx-lm apporte entraînement, fine-tuning (LoRA/QLoRA) et inférence de LLM directement sur Mac.
App GTK4/libadwaita pour GNOME pour discuter avec des modèles locaux via Ollama, en Rust et sous GPLv3 : elle gère l'installation d'Ollama, les modèles et le chargement de documents et d'images locaux.
Génère jusqu'à 30 secondes de musique ou d'effets sonores à partir d'une description textuelle. La référence des modèles musicaux open, léger et polyvalent.
Modello di sintesi vocale multilingue di NVIDIA: 357M parametri, 12 lingue (italiano e francese inclusi), architettura encoder-decoder transformer. Compatto e pensato per esecuzione in locale a bassa latenza; pesi disponibili su Hugging Face.
Modèle vocal end-to-end full-duplex de 11B : compréhension et génération audio dans une seule architecture, sans stack en cascade ASR→LLM→TTS. Premier modèle full-duplex open avec tool calling pendant la conversation, réponses en ~450ms, interruptions et tours naturels.
Outil open source pour exécuter des LLM en local, simplement.
Il modello di ragionamento open-weight di OpenAI: MoE con 21B di parametri totali e 3,6B attivi (32 esperti, top-4), contesto 128K e quantizzazione MXFP4 nativa. Licenza Apache 2.0: i pesi partono già quantizzati a 4 bit, senza passo di conversione. Sta in 16GB di VRAM e gira anche su RAM unificata o CPU.
Sintesi vocale in locale a bassa latenza basata su ONNX: genera parlato naturale da testo in tempo quasi reale, anche su CPU. Multilingue (italiano incluso) e facile da integrare nei pipeline: download del modello, una riga di comando. MIT.
Le modèle de génération d'images de 20B (MMDiT) d'Alibaba : compréhension du texte dans les images excellente, édition précise et licence Apache 2.0. La base de la famille Qwen-Image, dont 2.1 est la variante compacte de 7B.
Modèle open-weight de 7B (DiT de 32 couches) qui unifie génération à partir de texte jusqu'à 2048x2048, édition avec jusqu'à 10 images de référence et transparence RGBA native. Pensé pour tourner en local sur 16Go+ de VRAM ; supporté par diffusers et ComfyUI.
Modèle ultra-compact de 0,5 milliard de paramètres. S'exécute sur n'importe quel matériel, y compris embarqué : idéal pour des résumés légers et des appareils locaux à très faible consommation.
Saut net en raisonnement et qualité d'instruction par rapport aux 8B. Excellent pour le code, les agents et la rédaction structurée sur GPU 16 Go ou Mac avec 32 Go de RAM.
Qualité proche des modèles 70B à une fraction de la taille : le point idéal pour les usages avancés. Excellent en italien, en code et en raisonnement. Exige 24 Go de VRAM ou plus.
Modèle de 3 milliards de paramètres au soutien multilingue excellent, y compris l'italien. Bon équilibre entre qualité et exigences matérielles pour résumés et rédaction.
Le meilleur modèle dense open de sa classe, avec un soutien multilingue de premier ordre en italien, en français et dans d'autres langues européennes. Exige 48-80 Go.
Modèle Mixture-of-Experts : 30B de paramètres au total mais seulement 3,3B actifs par token. Vitesse d'un petit modèle avec la qualité d'un modèle moyen ; le meilleur rapport qualité/vitesse de sa classe.
Il modello dense 8B della famiglia Qwen3: 8,19B di parametri, contesto nativo di 40K token (espandibile con YaRN) e ragionamento in modalità think/non-think attivabile per prompt. Licenza Apache 2.0. È il punto di equilibrio per l'uso locale su GPU da 8-12GB: in Q4_K_M occupa circa 5GB, lasciando spazio per contesto lungo.
Il modello dense multimodale della generazione Qwen3.8 di Alibaba: 27,78B di parametri, input testo+immagini+video e contesto nativo di 262K token. Licenza Apache 2.0. L'attenzione ibrida (DeltaNet lineare + GQA) riduce la KV cache di circa il 75% rispetto a un transformer standard: in Q4_K_M sta su una singola GPU da 24GB.
Modèle de modération de la sécurité de 0,6B avec classifieur à niveau de token pour la surveillance en temps réel pendant la génération incrémentale. Trois niveaux de gravité (sûr, controversé, non sûr) et 119 langues : petit et local, idéal pour filtrer les sorties sans cloud.
Moteur de serving open source pour LLM avec RadixAttention, continuous batching et décodage spéculatif de premier plan (MTP, EAGLE, draft model, ngram). Licence Apache-2.0.
Jusqu'à 47 secondes d'audio à partir du texte : musique et effets sonores de haute qualité. Excellent pour les productions sonores et le sound design locaux.
Le classique de la génération d'images : rapide, léger et doté du plus vaste écosystème de LoRA et ControlNet. Parfait pour des GPU de 6-8 Go.
La référence actuelle pour les images photoréalistes et artistiques en 1024px. Meilleure adhérence au prompt et compositions plus cohérentes que SD 1.5.
Transforme une image en court clip vidéo d'environ 2 secondes. Le point d'entrée pour la génération vidéo locale ; 16 Go de VRAM recommandés.
L'outil classique en ligne de commande pour capturer les paquets réseau : la voie la plus directe pour voir qui parle avec l'extérieur depuis votre machine.
L'état de l'art des modèles vidéo open en 720p : qualité de mouvement et cohérence des frames de niveau professionnel. Exige 24 Go de VRAM ou plus.
Il modello di trascrizione di riferimento per l'IA locale: 809M di parametri, 99 lingue, licenza MIT. Versione distillata di Large-v3 con decoder ridotto da 32 a 4 layer: trascrive circa 8 volte più veloce con perdita di accuratezza trascurabile. Gira in tempo reale su una GPU consumer e anche solo su CPU.
Il port C/C++ ad alte prestazioni di Whisper: trascrizione vocale in locale ottimizzata per CPU e Apple Silicon, senza dipendenze da Python. Quantizzazione GGML (Q4_0–Q8_0) con riduzione fino al 65% a disco, streaming via whisper-stream, accelerazione Metal/Vulkan. MIT.
L'outil avec interface graphique pour capturer et analyser le trafic réseau : filtres, couleurs, statistiques et visualisation en temps réel de chaque connexion.
