Outils, frameworks et modèles pour l'IA locale
4 ressources trouvées pour "LLM"
Framework pour construire des applications basées sur des LLM avec chains, agents et tool use.
Framework open source pour le fine-tuning unifié de 100+ LLM et VLM (Qwen, Llama, Mistral, Gemma) : du SFT complet à LoRA, QLoRA et DPO, avec WebUI intégrée et démarrage depuis un seul fichier YAML. Projet de référence de la communauté (ACL 2024).
Framework d'apprentissage automatique d'Apple pour Apple Silicon : arrays avec calcul paresseux sur CPU et GPU unifiées, mémoire unifiée comme atout. La bibliothèque mlx-lm apporte entraînement, fine-tuning (LoRA/QLoRA) et inférence de LLM directement sur Mac.
Framework de fine-tuning optimisé pour GPU NVIDIA et Apple Silicon : matrices custom en CUDA qui réduisent l'usage de mémoire et doublent la vitesse d'entraînement par rapport aux méthodes standard. Supporte LLM et modèles de diffusion.
