Hardware🖥️
NVIDIA RTX 3060 12GB
Pubblicato il 8 dic 2021
La GPU consumer più accessibile con 12GB di VRAM: il punto d'ingresso per l'inferenza locale. Esegue con margine i modelli da 7-8B quantizzati.
GPUNVIDIAInferenzaBudget
Strumenti, framework e modelli per l'IA locale
1 risorsa trovata per "Budget"
La GPU consumer più accessibile con 12GB di VRAM: il punto d'ingresso per l'inferenza locale. Esegue con margine i modelli da 7-8B quantizzati.