Vai al contenuto principale
← Torna alle notizie

Ollama v0.33.0: Claude Desktop può usare modelli locali come gateway

Strumenti e rilasci
Fonte:Ollama
La release introduce la configurazione di Claude Desktop con Ollama come provider gateway di terze parti, oltre a miglioramenti significativi alla caching: i restore point del Prefill rendono i retry molto più efficienti e risolvono un hang con i client che cancellano i Prefill lunghi.
Leggi l'articolo originale

Articoli correlati

Come Eseguire Modelli LLM Localmente: dal Primo Install al Primo Modello

Da zero al primo modello che risponde: cosa ti serve davvero, Ollama passo per passo, come scegliere il modello per la tua memoria, la velocità attesa per hardware e i problemi tipici con le soluzioni.

Qwen: il modello open con il miglior supporto multilingua

Qwen è la famiglia open con il miglior supporto per italiano e francese: generazioni, dimensioni, perché funziona bene in locale e confronto rapido con Llama.

GGUF: il formato che fa stare i modelli sul tuo hardware

Apriamo la scatola: cosa c'è davvero dentro un file .gguf, perché è un solo file, come si legge il nome e come scegliere la dimensione per la tua VRAM, con i numeri reali di un modello 8B.

Ricevi il prossimo punto sull'IA locale

Ogni settimana, la selezione del meglio di iaLocale: articoli, notizie e risorse sull'IA locale, e altro ancora.

Dopo l'iscrizione ricevi una email di conferma (double opt-in). Senza conferma non inviamo nulla. Nessuno spam, ti promettiamo.

Risorse correlate

Strumenti e risorse dell'archivio iaLocale pertinenti a questo contenuto.

🖥️

AMD Ryzen AI Max+ 395 (Strix Halo)

Hardware

La APU AMD con la massima memoria unificata su x86: fino a 128GB di LPDDR5X condivisa tra CPU (16 core Zen 5), GPU integrata (40 CU RDNA 3.5) e NPU. Fino a 96GB allocabili alla GPU: modelli fino a 100B+ a 4 bit senza GPU dedicata, su mini-PC o laptop. Bandwidth 256 GB/s.

💻

Apple M5 Max

Hardware

Il chip Apple Silicon di punta per l'IA locale: 18 core CPU e 40 core GPU con memoria unificata fino a 128GB a 614 GB/s. Il Neural Accelerator su ogni core GPU raddoppia la velocità dei modelli MoE in decode rispetto alla generazione M4: ~88 tok/s su gpt-oss-120b, il più veloce della classe.

Bespoke Nimble 9B

Modelli

Il modello decisionale da 9B di Bespoke Labs: gira interamente in locale via Ollama 0.35 e risponde a domande tipizzate (vero/falso, scala numerica, scelta multipla) con la nuova API systemone. Pensato per la classificazione rapida in pipeline automatizzate, senza cloud.

🌱

Bonsai-2 27B

Modelli

Modello di ragionamento da 27B con pesi ternari a 1,72 bit per peso, derivato da Qwen3.8-27B con attenzione ibrida (~75% lineare). In GGUF PTQ1_0 occupa 5,95 GB, mantiene il 98,2% dell'intelligenza FP16 e arriva a ~47 tok/s su un laptop Apple M5 Max, con contesto da 262K token. Licenza Apache 2.0. Richiede la fork llama.cpp di Prism ML (i kernel ternari non sono in llama.cpp stock).

Sfoglia tutte le risorse