Modello MoE di DeepSeek con 552B di parametri totali e 8-16B attivi per token. Contesto da 1M di token, licenza MIT: uso commerciale libero. Pensato per il serving in linea, troppo grande per un uso locale su un singolo PC.
Bonsai-2 27B
Pubblicato il 25 set 2026
Modello di ragionamento da 27B con pesi ternari a 1,72 bit per peso, derivato da Qwen3.8-27B con attenzione ibrida (~75% lineare). In GGUF PTQ1_0 occupa 5,95 GB, mantiene il 98,2% dell'intelligenza FP16 e arriva a ~47 tok/s su un laptop Apple M5 Max, con contesto da 262K token. Licenza Apache 2.0. Richiede la fork llama.cpp di Prism ML (i kernel ternari non sono in llama.cpp stock).
Caratteristiche
- 27,36B ternari (1,72 bit/peso)
- 5,95 GB PTQ1_0 / 7,21 GB PQ2_0
- Contesto 262K
- Attenzione ibrida ~75% lineare
- 98,2% intelligenza FP16
- Apache 2.0
Cronologia delle versioni
- Bonsai-2 27BAttuale
Modello di ragionamento 27B ternario (g128, 1,72 bit/peso) derivato da Qwen3.8-27B con attenzione ibrida (~75% lineare): 5,95 GB in PTQ1_0, contesto 262K, 98,2% dell'intelligenza FP16, ~47 tok/s su M5 Max. Richiede la fork llama.cpp di Prism ML.
Tag
Link Utili
Scopri Bonsai-2 27B
Visita il sito ufficiale per scaricare, documentarti e iniziare a utilizzare Bonsai-2 27B.
Risorse Correlate — Modelli
Il modello di immagini aperto più avanzato: aderenza al prompt eccellente, anatomia solida e fine-tuning completo. Lo standard per chi fa serio.
Generazione in pochissimi step con qualità alta e ottimo rendering del testo. La versione distillata di FLUX, pensata per la velocità.

