Strumenti, framework e modelli per l'IA locale
14 risorse trovate per "NVIDIA"
GPU datacenter da 80GB di HBM2e: lo standard per training e inferenza in datacenter. Richiede server dedicati e alimentazione enterprise.
La workstation desktop NVIDIA per l'IA locale: superchip Grace Blackwell GB10 con 128GB di memoria unificata a 273 GB/s e circa 1 petaFLOP in FP4. CUDA completo, ~12 tok/s su modelli 27B a 4 bit, prefill veloce su contesti lunghi. Prezzo al lancio 3.999 USD, poi 4.699 USD per la carenza di memoria.
Il supercomputer desktop di NVIDIA basato su GB300 Grace Blackwell Ultra: fino a 748GB di memoria coerente, fino a 20 petaflop in FP4, CPU Grace a 72 core collegati via NVLink-C2C. Pensato per sviluppare ed eseguire agenti e modelli frontier-class al desk. Annunciato a GTC nel marzo 2025; versione per Windows annunciata il 1 giugno 2026 in arrivo a fine anno. Listino nell'ordine dei 99.000 USD.
Il GPU datacenter di fascia più alta con 80GB di HBM3: il top di gamma per training e inferenza di grandi modelli. Solo in configurazioni enterprise.
La GPU consumer più accessibile con 12GB di VRAM: il punto d'ingresso per l'inferenza locale. Esegue con margine i modelli da 7-8B quantizzati.
24GB di VRAM a prezzi di mercato usato molto convenienti: il modo più economico di raggiungere 24GB per modelli da 30B. Produzione terminata.
16GB di VRAM a un prezzo entry-level: la scelta giusta per modelli da 13-14B quantizzati. Buona autonomia per uso personale.
16GB di VRAM con banda da 672 GB/s: prestazioni da fascia alta a prezzo contenuto. Tra le migliori per rapporto VRAM/prezzo.
La GPU consumer più potente al mondo per training locale e inferenza ad alta velocità.
Il 16GB d'ingresso della generazione Blackwell: GB206, 16GB GDDR7 a 448 GB/s, 180W, PCIe 5.0 x8. Lancio a 429 USD: il modo più economico di far girare Qwen3.8-27B e i modelli 30B+ in Q4 su una singola scheda. Prezzo street 2026 più alto per la carenza di GDDR7.
Blackwell GB205 di fascia media: 12GB GDDR7 su bus 192-bit (672 GB/s), 6.144 CUDA core, 250W. Supporto completo ai formati FP4/FP8 per l'inferenza. Lancio a 549 USD, marzo 2025.
Blackwell GB203 da fascia alta: 16GB GDDR7 su bus 256-bit (896 GB/s), 8.960 CUDA core, 300W. Il 16GB rende possibile Qwen3.8-27B o i modelli 30B+ in Q4 con contesto ampio. Lancio a 749 USD, febbraio 2025.
16GB di GDDR7 con banda da 960 GB/s: la GPU Blackwell di fascia media. Velocità di decoding molto superiore alle generazioni precedenti.
La GPU consumer più veloce al mondo: 32GB di GDDR7 e 1.792 GB/s di banda. La scelta top per inferenza locale senza salire al datacenter.
