Strumenti, framework e modelli per l'IA locale
4 risorse trovate per "Modelli locali"
Guida online che incrocia modelli open-weights e hardware reale: per ogni GPU, Mac e mini-PC mostra cosa gira, quanto spazio serve e a quanti token al secondo, con guide su quantizzazione e memoria. Lo strumento giusto per la via dell'hardware proprio.
App GTK4/libadwaita per GNOME per chattare con modelli locali via Ollama, in Rust e GPLv3: gestisce l'installazione di Ollama, i modelli, e il caricamento di documenti e immagini locali.
I runtime che fanno girare i modelli locali sul tuo hardware: Ollama per la semplicità, llama.cpp per la portabilità, vLLM per il throughput di produzione. I motori nel catalogo sono le risorse figlie.
Le interfacce grafiche per usare i modelli locali senza account né invii al cloud: LM Studio, ComfyUI, Fooocus e Open WebUI. Gli studio nel catalogo sono le risorse figlie.
