Modèles🦙
Llama 3.1 405B
Publié le 23 juil. 2024Llama 4 Scout
Le plus grand modèle open de Meta : qualité de frontière fermée mais exigences de datacenter. En pratique, il exige du multi-GPU à forte VRAM ou le cloud.
LLMLlamaFrontieraOpen Source
Outils, frameworks et modèles pour l'IA locale
4 ressources trouvées pour "Datacenter"
Le plus grand modèle open de Meta : qualité de frontière fermée mais exigences de datacenter. En pratique, il exige du multi-GPU à forte VRAM ou le cloud.
GPU datacenter de 80 Go de HBM2e : la référence pour le training et l'inférence en datacenter. Exige des serveurs dédiés et une alimentation enterprise.
Le GPU datacenter haut de gamme avec 80 Go de HBM3 : le top de gamme pour le training et l'inférence de grands modèles. Uniquement en configuration enterprise.
Le GPU grand public le plus rapide au monde : 32 Go de GDDR7 et 1 792 Go/s de bande passante. Le choix top pour l'inférence locale sans passer au datacenter.