Matériel🖥️
NVIDIA RTX 3060 12GB
Publié le 8 déc. 2021
Le GPU grand public le plus abordable avec 12 Go de VRAM : le point d'entrée pour l'inférence locale. Fait tourner confortablement les modèles 7-8B quantisés.
GPUNVIDIAInferenzaBudget
Outils, frameworks et modèles pour l'IA locale
1 ressource trouvée pour "Budget"
Le GPU grand public le plus abordable avec 12 Go de VRAM : le point d'entrée pour l'inférence locale. Fait tourner confortablement les modèles 7-8B quantisés.