Risorse

Strumenti, framework e modelli per l'IA locale

Tutti Organizzazioni Hardware Software Modelli Inferenza Framework

Ordina per:Nome (A-Z)Nome (Z-A)Categoria Più recenti Più vecchie Prezzo (crescente)Prezzo (decrescente)VRAM (da più alta)Parametri (da più alti)

1 risorsa trovata per "Rust"

Inferenza⚡

Magnitude

Pubblicato il 12 giu 20261.0

Motore di inferenza open source (Rust, YC S25) che compila e ottimizza i suoi kernel direttamente sull'hardware di destinazione: Apple Silicon, NVIDIA, AMD o CPU. Sui modelli open dichiara velocità fino a 2× rispetto a llama.cpp. Pensato anche per il serving di agenti.

LLMInferenzaRustLocal

Scopri di più

ConfrontaSito