Strumenti, framework e modelli per l'IA locale
4 risorse trovate per "IA locale"
MoE di Aleph Alpha: 78,1B parametri (3,46B attivi per token), Apache 2.0, pesi FP8, contesto fino a 1M token, reasoning mode e tool calling. Pensato per carichi mission-critical su hardware locale.
Il cavallo di battaglia locale per eccellenza: qualità solida, contesto da 131K token e un ecosistema di quantizzazioni GGUF immenso. La scelta standard per chat e assistenti.
Modello fondazione da 500 milioni di parametri di NVIDIA per dati tabellari: predizione, imputazione e generazione su dataset strutturati, con supporto OpenMDW 1.1 e checkpoint pronti all'uso. Esempio di IA locale su dati di business, non generativa di testo.
Il modello di trascrizione di riferimento per l'IA locale: 809M di parametri, 99 lingue, licenza MIT. Versione distillata di Large-v3 con decoder ridotto da 32 a 4 layer: trascrive circa 8 volte più veloce con perdita di accuratezza trascurabile. Gira in tempo reale su una GPU consumer e anche solo su CPU.
