搜索结果：inference（7 个）
按分类缩小范围
FunASR
综合 80
支持训练、推理、流式 ASR、VAD、标点恢复及 OpenAI/MCP 兼容服务的开源语音识别工具包。
NemoClaw
综合 73
在 NVIDIA OpenShell 中更安全地运行智能体并托管推理服务。
Langchain-Chatchat
综合 71
基于 Langchain 与主流开源 LLM 构建的本地知识库 RAG 与 Agent 应用框架。
CosyVoice
综合 70
多语言大规模语音生成模型，提供涵盖推理、训练和部署的全栈能力。
ChatTTS
综合 69
专注于日常对话场景的生成式文本转语音（TTS）模型。
private-gpt
综合 56
基于本地模型的私有 AI 应用 API 层，支持 RAG、工具、MCP 及 Text-to-SQL 等，兼容 OpenAI 接口。
OmniRoute （AI 模型聚合网关）
综合 49
免费 MIT 协议 AI 网关，单接口聚合数百家服务商及上千款模型，兼容 Cursor、Cline 等工具。