搜索结果：gguf（4 个）
按分类缩小范围
mlx-serve
综合 70
面向 Apple Silicon 的原生 LLM 推理服务，兼容双 API，无 Python，含多模态功能。
llmfit
综合 62
支持数百种模型与平台，只需一条命令即可查询适合在当前硬件上运行的 LLM。
unsloth （本地模型运行与训练工具）
综合 49
运行和训练 LLM 与扩散模型的本地 UI，支持 GGUF、MLX、FLUX 等多种格式与模型架构。
spark-nlp
综合 41
Spark NLP 是基于 Apache Spark 构建的工业级 NLP 与大模型库，解决大规模文本处理在分布式环境中难以扩展的痛点。它提供实体识别、文本分类、问答等功能，内置超 10 万个预训练模型与管道，并支持导入 TensorFlow、ONNX 及 GGUF 模型。