搜索结果：llm（26 个）
按分类缩小范围
monoscope
综合 63
Monoscope 是基于 Haskell 开发的开源可观测性平台，解决遥测数据存储成本高、检索难的问题。它支持将日志、指标和链路追踪低成本存入兼容 S3 的存储桶；核心功能包括原生 OpenTelemetry 集成、实时流式查看、大模型自然语言查询，以及通过 AI Agent 自动检测异常并发送报告。
reader
综合 63
通过添加 URL 前缀，将任意网页转换为适合 LLM 读取的输入格式。
kimi-k3-in-c
综合 63
纯 C99 实现的 Kimi K3 推理，无需 GPU、BLAS 或任何框架，单 CPU 和 8.24 GB 内存即可运行。
new-api
综合 54
开源可自建的 LLM 网关，兼容多模型 API，支持模型路由、访问控制与用量计费。
headroom （LLM 上下文压缩工具）
综合 53
在输入 LLM 前压缩工具输出、日志与 RAG 分块，大幅节省 Token 且不影响回答质量。
langfuse
综合 53
开源 Agent 评估与可观测性平台，用于追踪、评估和持续改进 LLM 应用。