| |
 |
iaLocale
|
Settimana 4
|
|
|
Ecco la settimana di iaLocale: le notizie selezionate, gli articoli pubblicati e le nuove parole del glossario.
|
|
|
|
In evidenza
MiniCPM-V 4.7: il MoE da 35B che gira sullo smartphone con 3 GB di RAM
MiniCPM V 4.7 (35B totali, ~3B attivi, rilasciato il 12 ottobre 2026 da OpenBMB e ModelBest) è il primo MoE open della serie, visivo linguistico: immagini multiple, video, OCR. 13+ tok/s con 3 GB di RAM su iPhone 17 Pro Max, 17+ su Android. Quantizzazioni ufficiali BF16, FP8, INT4, AWQ, GPTQ, GGUF; motore Ollama, llama.cpp, vLLM, SGLang. Le tre tecniche: Lookahead Expert Scheduling, quantizzazione fine per livello, campionamento speculativo DSpark.
Leggi l'articolo →
|
|
|
|
|
Ling 3.1 Flash: 560B open-weight con licenza MIT, 1M di contesto - cosa cambia per chi ha 24GB di VRAM
Ling 3.1 Flash porta 560B di parametri open-weight sotto licenza MIT con 1M di contesto. A 24GB di VRAM non ci entra, ma i quantaggi, il MoE 25B attivi e i numeri veri cambiano il calcolo.
| |
Kolibri di Aleph Alpha: il MoE da 78B che gira (quasi) in locale
Kolibri porta 78 miliardi di parametri open-weight in un formato FP8 pensato per l'hardware locale: 3,46B attivi per token, Apache 2.0, contesto fino a 1M. Lo proviamo: costi VRAM reali e limiti attuali.
| |
Modelli di decisione in locale: JEV-35B e il System 1 da 3B attivi
Non serve un LLM grande per decidere. JEV-35B (35B, 3B attivi) in NVFP4 su una GPU da 32 GB e ej (11,4 MB) su CPU mostrano come fare routing, classificazione e controllo qualità senza generare un solo token.
|
|
| |
|
Le 5 notizie più importanti |
|
|
1LLMspeed: prova quanto sarà veloce il tuo modello locale prima di acquistarlo
LLMspeed è un tool open source (showcase Hacker News) che stima la velocità di inferenza di oltre 250 combinazioni modello/hardware: RTX 3060 a H100, Mac Studio M5 Ultra, CPU-only. Le stime misurate vengono da benchmark della community (r/LocalLLaMA, localscore.ai), le altre sono derivate da configurazioni simili o proiettate dalle specifiche. Utile per decidere l'hardware prima di spendere.
| |
2Moose 0.6: connessioni cloud sicure e Ollama integrato nell'app GNOME
La 0.6 di Moose porta lo storage protetto delle credenziali per i servizi cloud, una modalità Local-Only con Ollama gestito dall'app (scaricamento e rimozione dei modelli), permessi per chat o per provider, un browser per GNOME Files per allegare documenti alle conversazioni e un catalogo di modelli locale ampliato. La 0.6.1 aggiunge Mistral e DeepSeek. Disponibile su Flathub.
| |
3sift: riconosce e riassume ogni file con un LLM locale, completamente offline
sift è uno strumento Python a dipendenza zero che rileva il tipo di un file per contenuto (non solo estensione), ne estrae la struttura e chiede a un LLM locale — Ollama, LM Studio o MLX-LM — di classificarlo e riassumerlo. Nulla lascia la macchina; misura i numeri da solo e segnala i file che parlano all'assistente.
| |
4La Cina propone controlli sull'esportazione di 23 tecnologie IA, pesi e agenti
Il ministero del Commercio cinese propone di aggiungere 40 tecnologie al catalogo di esportazione controllata, 23 delle quali IA: grandi modelli, agenti e cluster di calcolo. L'accesso tramite API, siti web e app è escluso; i modelli open-source già pubblici restano fuori. Consultazione pubblica fino al 15 novembre.
| |
5llama.cpp b11717: Hadamard per i quantizzati Q1_0 e Q2_0 su NPU Snapdragon
Il build b11717 aggiunge al backend Hexagon (NPU Snapdragon) le operazioni Hadamard MUL_MAT e GET_ROW per i quantizzati Q1_0 e Q2_0, flat e tiled, e riduce i packet count nel quantizzatore q8_1. Contributo Qualcomm: un passo ulteriore verso l'inferenza su NPU mobile per i quantaggi più aggressivi.
|
|
Questa settimana ne sono state pubblicate 11: leggi tutte le notizie.
|
|
|
|
|
|
|
L’intelligenza artificiale locale, in italiano. · ialocale.ch
Ricevi questa email in italiano perché hai scelto l’italiano per la newsletter. Puoi cambiare lingua o disiscriverti a ogni momento dal pannello della tua iscrizione.
Ricevi questa email perché ti sei iscritto alla newsletter di iaLocale.
|
|
