Vai al contenuto principale
← Torna alle notizie

Ollama v0.34.0: i modelli locali arrivano in ChatGPT Desktop

Strumenti e rilasci
Fonte:Ollama
La versione 0.34.0 di Ollama permette di usare i modelli locali direttamente in ChatGPT Desktop su macOS, migliora le prestazioni dell'output strutturato su Apple Silicon e aggiunge ricerca dei tool client e compattazione delle risposte nell'API compatibile OpenAI.
Leggi l'articolo originale

Articoli correlati

Ollama vs LM Studio: Quale Tool Scegliere per l'IA Locale

Ollama per macchine e server (API 11434), LM Studio per esplorare e misurare (server 1234, benchmark integrato): la tabella comparativa, l'API OpenAI-compatibile e il caso reale di chi li usa insieme.

Come Eseguire Modelli LLM Localmente: dal Primo Install al Primo Modello

Da zero al primo modello che risponde: cosa ti serve davvero, Ollama passo per passo, come scegliere il modello per la tua memoria, la velocità attesa per hardware e i problemi tipici con le soluzioni.

Agenti ML che girano in locale: MLExpert ed EpochGo su Ollama, costi API zero

MLExpert alza l'asticella a 35B e 72,7% di medaglie; EpochGo porta tre agenti AutoML su un 16 GB, zero API: cosa funziona oggi, i conti e i limiti.

Ricevi il prossimo punto sull'IA locale

Ogni settimana, la selezione del meglio di iaLocale: articoli, notizie e risorse sull'IA locale, e altro ancora.

Dopo l'iscrizione ricevi una email di conferma (double opt-in). Senza conferma non inviamo nulla. Nessuno spam, ti promettiamo.

Risorse correlate

Strumenti e risorse dell'archivio iaLocale pertinenti a questo contenuto.

🔶

OpenAI API

Inferenza

API di inferenza per i modelli frontier di OpenAI (serie GPT). Si paga al token: prezzo fisso per milione di token in ingresso e in uscita, senza GPU da gestire e con rate limits per tier di account.

💻

Apple M5 Max

Hardware

Il chip Apple Silicon di punta per l'IA locale: 18 core CPU e 40 core GPU con memoria unificata fino a 128GB a 614 GB/s. Il Neural Accelerator su ogni core GPU raddoppia la velocità dei modelli MoE in decode rispetto alla generazione M4: ~88 tok/s su gpt-oss-120b, il più veloce della classe.

🖥️

AMD Ryzen AI Max+ 395 (Strix Halo)

Hardware

La APU AMD con la massima memoria unificata su x86: fino a 128GB di LPDDR5X condivisa tra CPU (16 core Zen 5), GPU integrata (40 CU RDNA 3.5) e NPU. Fino a 96GB allocabili alla GPU: modelli fino a 100B+ a 4 bit senza GPU dedicata, su mini-PC o laptop. Bandwidth 256 GB/s.

🟠

Anthropic Claude

Inferenza

API di inferenza per i modelli Claude di Anthropic (Claude 1 dal 2023). Come OpenAI si paga al token, in ingresso e in uscita, con limiti di richiesta per piano: la via frontier senza server propri.

Sfoglia tutte le risorse