ggml

Biblioteca tensoriale in C/C++ di cui è composto llama.cpp (dal nome GGML, il formato che l'ha resa nota). Definisce tensori, operazioni e backend — CPU, GPU, Apple Silicon — su cui corrono i modelli in inferenza locale. È il livello 'hardware' della dell'inferenza: sopra di essa stanno i runtime come Ollama e llama.cpp.