搜索结果：inference（8 个）
按分类缩小范围
FunASR
综合 80
支持训练、推理、流式 ASR、VAD、标点恢复及 OpenAI/MCP 兼容服务的开源语音识别工具包。
TensorRT-LLM
综合 70
提供易用的 Python API，针对 NVIDIA GPU 优化 LLM 高效推理加速。
CosyVoice
综合 70
多语言大规模语音生成模型，提供涵盖推理、训练和部署的全栈能力。
ChatTTS
综合 69
专注于日常对话场景的生成式文本转语音（TTS）模型。
faster-whisper
综合 67
基于 CTranslate2 的高速 Whisper 转录工具。
mlx-serve
综合 53
面向 Apple Silicon 的原生 LLM 推理服务，兼容双 API，无 Python，含多模态功能。
涵盖文本、视觉、音频及多模态的前沿机器学习模型框架，支持推理与训练。
FluidAudio
综合 42
Swift 音频库，为应用提供前沿 CoreML 模型，支持 TTS、STT、语音活动检测与说话人日志。