Notizie

Un nuovo paper di Hugging Face propone che gli agenti LLM lavorino direttamente sui file della workspace tramite tab dedicate, senza indicizzazione: l'agente cerca e legge i documenti dal terminale e produce le deliverable a partire da più file in un unico flusso.

Moose è una nuova app nativa GTK4/libadwaita per GNOME, scritta in Rust e in licenza GPLv3, che permette di chiacchierare con i modelli locali via Ollama: gestisce l'installazione di Ollama, la gestione dei modelli e il caricamento di documenti e immagini locali. È su Flathub, con il codice su GitHub, ed è stata annunciata su This Week in GNOME.

Un piccolo router Open Source (v0.4.0) che aggiunge capacità multimodali a un modello LLM che lavora solo sul testo: immagini e audio vengono gestiti a livello di routing, così il modello locale resta quello che c'è già in giro senza doverne cambiare uno.

Un esperimento creativo a Vilnius: un muro con microfoni e altoparlanti alimentato da un pipeline LLM che gira interamente in locale. I partecipanti parlano al muro e ricevono risposte generate su posto — niente cloud, niente server esterni.

La release v0.11.4 di Open WebUI, pubblicata lo scorso 21 settembre, porta due miglioramenti diretti al RAG: i metadati dei file caricati viaggiano ora con ogni blocco e arrivano insieme alle fonti recuperate, e la ricerca ibrida gira nativamente nel database (pgvector) invece di caricare l'intera collezione in memoria, rendendo le grandi basi di conoscenza molto più veloci. L'immagine slim scende inoltre a circa 175 MB.

Mozilla e Mistral hanno annunciato una partnership che integra l'IA di Mistral — modelli aperti, multilingue e con enfasi sulla privacy — in Firefox Smart Window, il pannello IA del browser. Un segnale in linea con la direzione del nostro articolo di oggi: portare l'IA dentro gli strumenti quotidiani di lavoro, con dati che restano il più possibile sotto controllo dell'utente.

Open WebUI v0.11.1 aggiunge l'approvazione delle chiamate ai tool (un pulsante pausa tra il modello e i suoi tool), una funzione integrata ask_user che permette al modello di fermarsi e farti una domanda a metà risposta, un file browser nel terminale con anteprime dei documenti in loco, e uno Streaming incrementale che riduce di circa il 99% il traffico delle risposte. La release completa include oltre novanta aggiunte e più di duecento correzioni.