GPU

Unità di elaborazione grafica. Per l'IA locale la GPU è il componente che accelera l'inferenza: la memoria video (VRAM) determina quanto modello si può eseguire. Le GPU Apple, integrate in Apple Silicon, lavorano sulla memoria unificata invece che su VRAM separata.