Inferenza⚡
llama.cpp
Pubblicato il 15 ott 2022
Implementazione C++ di LLM per inferenza efficiente su CPU e GPU consumer.
LLMC++LocalEfficient
Pubblicato il 1 apr 2022
Sintesi vocale in locale a bassa latenza basata su ONNX: genera parlato naturale da testo in tempo quasi reale, anche su CPU. Multilingue (italiano incluso) e facile da integrare nei pipeline: download del modello, una riga di comando. MIT.
TTS locale basato su VITS + ONNX: sintesi vocale in tempo reale su CPU, voci multilingue. MIT.
Visita il sito ufficiale per scaricare, documentarti e iniziare a utilizzare Piper TTS.
Implementazione C++ di LLM per inferenza efficiente su CPU e GPU consumer.
Strumento open source per eseguire LLM localmente con semplicità.
High-throughput serving di LLM con PagedAttention e ottimizzazioni hardware.