Glossaire IA Locale
Termes et définitions de l'intelligence artificielle locale, des modèles open source et du calcul.
4 termes dans Outils
La plateforme open source de référence pour les modèles, ensembles de données et applications d'intelligence artificielle. Le Hugging Face Hub héberge des milliers de modèles LLM open source (Llama, Mistral, Phi et bien d'autres) prêts à être téléchargés et utilisés localement. C'est aussi une organisation qui développe des bibliothèques telles que Transformers et Datasets.
Bibliothèque écrite en C++ pour exécuter des modèles LLM sur des processeurs et cartes graphiques grand public. C'est le moteur sous-jacent à de nombreux outils d'inférence locale, y compris Ollama. Elle prend en charge la quantification GGUF et peut exécuter de grands modèles sur du matériel limité en exploitant à la fois le processeur et la carte graphique.
Framework de machine learning d'Apple conçu pour les puces Apple Silicon. Il est au cœur de nombreuses applications d'IA locale sur Mac : il exploite la mémoire unifiée et accélère l'inférence.
Outil open source pour télécharger, gérer et exécuter des modèles LLM localement. Il prend en charge Llama, Mistral, Phi et bien d'autres. En une seule commande, vous pouvez démarrer un modèle et y accéder via une API REST locale. C'est l'un des moyens les plus simples de commencer avec l'IA locale.