Aller au contenu principal
← Retour aux actualités

OnTrack : surveillance et intervention en temps réel sur les trajectoires des agents LLM

Agents IA
Source:arXiv
Une méthode pour surveiller et intervenir en temps réel sur les trajectoires des agents LLM, en utilisant un transport optimal structure-aware sur flux : elle évite le coût et la Latence d'un agent de garde à chaque pas, tout en restant proactive au lieu d'examiner les journaux a posteriori.
Lire l'article original

Articles connexes

Des agents ML en local : MLExpert et EpochGo sur Ollama, coût d'API nul

MLExpert pousse la barre à 35B et 72,7 % de médailles ; EpochGo fait tourner trois agents AutoML sur 16 Go, sans API : ce qui marche aujourd'hui, les comptes et les limites.

Exécuter des Modèles LLM en Local : du Premier Install au Premier Modèle

De zéro au premier modèle qui répond : ce qu'il vous faut vraiment, Ollama pas à pas, comment choisir le modèle pour votre mémoire, les vitesses attendues par hardware et les problèmes typiques résolus.

Coûts : local vs API, avec les vrais chiffres

Combien coûte vraiment le local par rapport à une API cloud ? Tarifs par token vérifiés, amortissement de la carte graphique, électricité et point de rentabilité, calculé avec les vrais chiffres.

Recevez le prochain point IA locale

Chaque semaine, une sélection du meilleur d'iaLocale : articles, actualités et ressources sur l'IA locale, et plus encore.

Après l'inscription, vous recevez un e-mail de confirmation (double opt-in). Sans confirmation, nous n'envoyons rien. Pas de spam, promis.

Ressources liées

Outils et ressources des archives iaLocale pertinents pour ce contenu.

🌱

Bonsai-2 27B

Modèles

Modèle de raisonnement de 27B aux poids ternaires à 1,72 bit par poids, dérivé de Qwen3.8-27B avec attention hybride (~75 % linéaire). En GGUF PTQ1_0 il occupe 5,95 Go, conserve 98,2 % de l'intelligence FP16 et atteint ~47 tok/s sur un laptop Apple M5 Max, avec un contexte de 262K tokens. Licence Apache 2.0. Exige la fork llama.cpp de Prism ML (les noyaux ternaires ne sont pas dans llama.cpp stock).

⚡

DeepSeek V4.1 Flash

Modèles

Modèle MoE de DeepSeek avec 552B de paramètres au total et 8 à 16B actifs par token. Contexte de 1M de tokens, licence MIT : usage commercial libre. Conçu pour le service en ligne, trop grand pour un usage local sur un seul PC.

💎

Gemma 3

Modèles

Famille de modèles open de Google en tailles 1B, 4B, 12B et 27B. Contexte de 128K tokens, plus de 140 langues supportées et entrées multimédias (texte et images). Excellent choix pour le RAG et les documents longs sur du matériel grand public.

💎

Gemma 3 4B

Modèles

La taglia compatta della famiglia Gemma 3 di Google: 4,32B di parametri, contesto di 128K token e supporto nativo a 140+ lingue (incluso l'italiano), con input testo+immagini. Licenza Gemma (uso commerciale con condizioni). In Q4_K_M occupa circa 2,9GB: gira su GPU da 8GB e su CPU moderne.

Parcourir toutes les ressources