Inferenza🔗
Replicate
Pubblicato il 1 giu 2022
Piattaforma API per eseguire modelli ML senza gestire infrastruttura.
APICloudMLServerless
Torna alle risorse
RunPod Serverless
Pubblicato il 1 mar 2023
Piattaforma serverless per deploy e scalatura automatica di modelli IA con GPU.
Caratteristiche
- Auto-scaling
- Pay-per-use
- Multi-GPU
- Global CDN
Tag
Link Utili
Scopri RunPod Serverless
Visita il sito ufficiale per scaricare, documentarti e iniziare a utilizzare RunPod Serverless.
Risorse Correlate — Inferenza
Inferenza🟠
Anthropic Claude
Pubblicato il 14 mar 2023
API di inferenza per i modelli Claude di Anthropic (Claude 1 dal 2023). Come OpenAI si paga al token, in ingresso e in uscita, con limiti di richiesta per piano: la via frontier senza server propri.
APIFrontierPaga-al-tokenCloud
Inferenza⚡
faster-whisper
Pubblicato il 11 feb 2023v1.2.1
Reimplementazione di Whisper basata su CTranslate2: fino a 4 volte più veloce di openai/whisper con la stessa accuratezza e meno memoria. Supporta la quantizzazione 8-bit su CPU e GPU.
AudioTrascrizioneOpen SourceLocale