搜索结果：gguf（3 个）
按分类缩小范围
mlx-serve
综合 70
面向 Apple Silicon 的原生 LLM 推理服务，兼容双 API，无 Python，含多模态功能。
llmfit
综合 62
支持数百种模型与平台，只需一条命令即可查询适合在当前硬件上运行的 LLM。
unsloth （本地模型运行与训练工具）
综合 49
运行和训练 LLM 与扩散模型的本地 UI，支持 GGUF、MLX、FLUX 等多种格式与模型架构。