Outils, frameworks et modèles pour l'IA locale
4 ressources trouvées pour "LLM"
Outil open source qui estime la vitesse d'inférence d'un modèle local sur plus de 250 configurations matérielles (GPU, Mac, CPU) : estimations mesurées depuis des benchmarks communautaires ou dérivées de setups similaires. Sert à choisir le matériel avant de l'acheter.
Les runtime qui font tourner les modèles locaux sur votre matériel : Ollama pour la simplicité, llama.cpp pour la portabilité, vLLM pour le débit de production. Les moteurs du catalogue sont les ressources filles.
Outil Python à dépendance nulle qui reconnaît et résume chaque fichier avec un LLM local (Ollama, LM Studio ou MLX-LM), entièrement hors ligne. Détecte le type par le contenu, extrait la structure (CSV, e-mails, scripts, logs) et signale les fichiers contenant des instructions à l'assistant. Fonctionne aussi sans modèle (--no-llm). Licence MIT.
Application macOS de dictée 100 % locale : transcription avec Whisper sur l'appareil et réécriture avec un LLM local (Qwen) sur la GPU M-series. Le texte arrive dans l'application cible ; aucune donnée ne passe par le cloud.
