Glossaire IA Locale
Termes et définitions de l'intelligence artificielle locale, des modèles open source et du calcul.
7 termes dans Techniques
Le découpage d'un document en petits blocs de texte avant l'indexation. Chaque bloc devient une entrée interrogeable dans la base vectorielle : la taille des blocs est l'un des premiers paramètres à ajuster quand les résultats du RAG ne convainquent pas.
Famille de techniques de décodage spéculatif (paper EAGLE, arXiv:2401.15077) : un petit draft model lit les états cachés du grand modèle et prédit les jetons suivants à partir de là. L'échantillonnage reste lossless, comme le speculative sampling classique. Les checkpoints EAGLE officiels (par exemple Mistral-Medium-3.5-128B-EAGLE) sont servis nativement par vLLM et SGLang.
L'art d'écrire des instructions efficaces pour obtenir de meilleurs résultats d'un modèle linguistique. Cela inclut des techniques comme le few-shot prompting (fournir des exemples dans le prompt), chain-of-thought (demander au modèle de raisonner étape par étape) et role prompting (définir un rôle pour le modèle).
Entraînement qui simule la quantification pendant le training, afin que le modèle apprenne à travailler avec des poids à faible précision. Contrairement à la quantification post-training (appliquée à froid, ex. Q4_K_M), la QAT préserve beaucoup plus de qualité à bits égaux. Google a publié des checkpoints QAT officiels pour la famille Gemma 4 en juin 2026.
La proximité entre les vecteurs de deux textes en fonction du sens, et non de la correspondance littérale. C'est le principe sur lequel repose la recherche dans une base vectorielle : « frein » et « système de freinage » ne sont pas le même mot, mais leurs vecteurs sont voisins.
Le jeu d'instructions qui définit le comportement permanent d'un modèle : ton, rôle, format de réponse, contraintes. Contrairement au prompt de l'utilisateur (une question unique), le system prompt gouverne chaque réponse de la session et n'est pas montré au modèle comme une demande.
Voice Activity Detection : technique qui identifie quelles portions d'un flux audio contiennent de la voix, afin de découper l'audio en segments pertinents et d'ignorer le silence. Indispensable dans les pipelines de transcription en temps réel.