Glossario IA Locale
Termini e definizioni dell'intelligenza artificiale locale, modelli open source e computing.
4 termini in Strumenti
La piattaforma open source di riferimento per modelli, dataset e applicazioni di intelligenza artificiale. Il Hugging Face Hub ospia migliaia di modelli LLM open source (Llama, Mistral,Phi e molti altri) pronti per il download e l'uso locale. È anche un'organizzazione che sviluppa librerie come Transformers e Datasets.
Libreria scritta in C++ per eseguire modelli LLM su CPU e GPU consumer. È il motore sottostante a molti tool di inferenza locale, incluso Ollama. Supporta la quantizzazione GGUF e può eseguire modelli di grandi dimensioni su hardware limitato sfruttando sia CPU che GPU.
Framework di machine learning di Apple progettato per i chip Apple Silicon. È il motore dietro molte applicazioni di IA locale su Mac: sfrutta la memoria unificata e accelera l'inferenza rispetto a una GPU discreta equivalente.
Strumento open source per scaricare, gestire ed eseguire modelli LLM localmente. Supporta Llama, Mistral, Phi e molti altri. Con un singolo comando puoi avviare un modello e accedervi tramite API REST locale. È uno dei modi più semplici per iniziare con l'IA locale.