Aller au contenu principal
← Retour aux actualités

Secret Guard : gateway LLM local qui remplace les secrets avant de les envoyer au provider

Outils et sorties
Source:Hacker News
Outil Open Source (Rust) servant de gateway local : il remplace les secrets sortants par des mocks réalistes de même longueur et les restaure à l'arrivée, pour que l'LLM ne touche jamais une valeur réelle. Intégration en une ligne. À vérifier avec la source primaire.
Lire l'article original

Articles connexes

Ollama vs LM Studio : quel outil choisir

Ollama pour machines et serveurs (API 11434), LM Studio pour explorer et mesurer (serveur 1234, benchmark intégré) : tableau comparatif, API compatible OpenAI et le cas réel de ceux qui les utilisent ensemble.

Nemotron-Parse : la famille OCR de NVIDIA pour lire vos documents en local

NVIDIA a réédité Nemotron Parse (v1.1, v1.2, 2.0) dans la même semaine du 20 octobre : moins d'un milliard de paramètres, structure de page incluse. Installation locale avec vLLM, et limites honnêtes.

Coûts : local vs API, avec les vrais chiffres

Combien coûte vraiment le local par rapport à une API cloud ? Tarifs par token vérifiés, amortissement de la carte graphique, électricité et point de rentabilité, calculé avec les vrais chiffres.

Recevez le prochain point IA locale

Chaque semaine, une sélection du meilleur d'iaLocale : articles, actualités et ressources sur l'IA locale, et plus encore.

Après l'inscription, vous recevez un e-mail de confirmation (double opt-in). Sans confirmation, nous n'envoyons rien. Pas de spam, promis.

Ressources liées

Outils et ressources des archives iaLocale pertinents pour ce contenu.

⚡

Magnitude

Inférence

Moteur d'inférence open source (Rust, YC S25) qui compile et optimise ses noyaux directement sur le matériel cible : Apple Silicon, NVIDIA, AMD ou CPU. Sur les modèles ouverts, il revendique des vitesses jusqu'à 2× par rapport à llama.cpp. Pensa aussi au serving d'agents.

🤖

OpenAI gpt-oss-20b

Modèles

Il modello di ragionamento open-weight di OpenAI: MoE con 21B di parametri totali e 3,6B attivi (32 esperti, top-4), contesto 128K e quantizzazione MXFP4 nativa. Licenza Apache 2.0: i pesi partono già quantizzati a 4 bit, senza passo di conversione. Sta in 16GB di VRAM e gira anche su RAM unificata o CPU.

🎨

Qwen-Image 2.1

Modèles

Modèle open-weight de 7B (DiT de 32 couches) qui unifie génération à partir de texte jusqu'à 2048x2048, édition avec jusqu'à 10 images de référence et transparence RGBA native. Pensé pour tourner en local sur 16Go+ de VRAM ; supporté par diffusers et ComfyUI.

Bespoke Nimble 9B

Modèles

Le modèle décisionnel de 9B de Bespoke Labs : il tourne entièrement en local via Ollama 0.35 et répond à des questions typées (vrai/faux, échelle numérique, choix multiple) avec la nouvelle API systemone. Conçu pour la classification rapide dans les pipelines automatisés, sans cloud.

Parcourir toutes les ressources