Ollama

Strumento open source per scaricare, gestire ed eseguire modelli LLM localmente. Supporta Llama, Mistral, Phi e molti altri. Con un singolo comando puoi avviare un modello e accedervi tramite API REST locale. È uno dei modi più semplici per iniziare con l'IA locale.