登录 注册

headroom (LLM 上下文压缩工具)

去点 Star
AI 模型与开发框架AI 应用与 AI Agent网络与基础设施
79,377
Stars
0
Forks
0
Watchers
0
Open Issues
未知
许可证
Python
语言
创建时间
最近更新

项目能做什么

在输入 LLM 前压缩工具输出、日志与 RAG 分块,大幅节省 Token 且不影响回答质量。
来源:AI 基于仓库事实生成 · 内容以仓库实际 README 为准

使用说明 查看原始 README 原仓库文档

项目简介

Headroom(在 PyPI 和 npm 上名为 headroom-ai)是一个专为 AI agent 打造的上下文压缩层。它可以在工具输出、日志、RAG 分块、文件和对话历史发送给 LLM 之前对其进行压缩,在保证回答质量不变的前提下减少输入 token 消耗。

根据官方实测数据,在四个 agent 场景下可减少 21–57% 的输入 token,在重复的 JSON 数组和日志行上可减少 90% 以上(纯散文内容压缩较少)。所有压缩操作均在本地机器运行,不会将任何 prompt 或文件内容发送到外部。

核心功能

  • Library(代码库模式):在 Python 或 TypeScript 中直接调用 compress(messages),内联集成到应用中。
  • Proxy(代理模式):运行 headroom proxy --port 8787,无需修改代码即可适配任何编程语言。
  • Agent wrap(一键包装):一条命令即可接入主流编程 agent,支持 headroom wrap claude|codex|grok|copilot|cursor|aider|opencode|cline|continue|goose|openhands|openclaw|vibe|omp|droid|zcode;如需还原,执行 headroom unwrap <tool>。
  • MCP server:为任何 MCP 客户端提供 headroom_compress、headroom_retrieve、headroom_stats 工具。
  • Cross-agent memory:在 Claude、Codex、Gemini 和 Grok 之间共享存储,支持自动去重。
  • headroom learn:用于挖掘失败会话(具体细节因原文截断未完整展示,请查看原仓库)。

适合谁用

  • LLM 应用开发者:使用 Python(如 LangChain、LiteLLM、Agno、Strands)或 TypeScript 开发 AI 应用的开发者。
  • 编程 Agent 用户:日常使用 Claude Code、Codex、Cursor、Copilot、OpenCode、Aider 等工具的开发者。

安装步骤

1. Python 应用集成

pip install headroom-ai

使用示例:

from headroom import compress

# 传入 OpenAI 或 Anthropic 格式的 message 字典
result = compress(messages, model="gpt-4o")
client.chat.completions.create(model="gpt-4o", messages=result.messages)

2. TypeScript 应用集成

安装 npm 包,并同时安装和启动本地代理(npm SDK 会将消息发送至该代理):

npm install headroom-ai
pip install "headroom-ai[proxy]"
headroom proxy --port 8787

3. 编程 Agent 零代码接入

uv tool install --python 3.13 "headroom-ai[all]"
headroom wrap claude

配置说明

  • 离线与零依赖:进程内运行,无需 API key,也无需下载模型。设置环境变量 HEADROOM_OFFLINE=1 可实现完全零网络运行。
  • 消息压缩范围:默认仅压缩 tool 和 assistant 消息,保留 user 消息不变;如需一并压缩用户消息,可在调用时传入参数 compress_user_messages=True。
  • 更多高级配置与参数说明,此部分原文未说明,请查看原仓库或官方文档(https://docs.headroomlabs.ai/docs)。

常见问题

此部分原文未说明,请查看原仓库。

原始 README 摘录(英文原文,节选前 3000 字符)
<div align="center">

<img src="https://raw.githubusercontent.com/headroomlabs-ai/headroom/main/.github/assets/hero.svg" alt="Headroom — the context compression layer for AI agents. A 55,957 token agent prompt compresses to the 24,340 tokens actually sent to the model, and the FATAL line at item 67 survives byte for byte." width="880">

<a href="https://trendshift.io/repositories/20881" target="_blank"><img src="https://trendshift.io/api/badge/repositories/20881" alt="headroomlabs-ai/headroom | Trendshift — #1 Repository Of The Day" width="250" height="55"/></a>

<p>
  <a href="https://github.com/headroomlabs-ai/headroom"><img src="https://img.shields.io/github/stars/headroomlabs-ai/headroom?style=flat&color=00F0B5&labelColor=0C1118&label=stars" alt="GitHub stars"></a>
  <a href="https://github.com/headroomlabs-ai/headroom/actions/workflows/ci.yml"><img src="https://github.com/headroomlabs-ai/headroom/actions/workflows/ci.yml/badge.svg" alt="CI"></a>
  <a href="https://pypi.org/project/headroom-ai/"><img src="https://img.shields.io/pypi/v/headroom-ai.svg?color=00F0B5&labelColor=0C1118&label=pypi" alt="PyPI"></a>
  <a href="https://www.npmjs.com/package/headroom-ai"><img src="https://img.shields.io/npm/v/headroom-ai.svg?color=00F0B5&labelColor=0C1118&label=npm" alt="npm"></a>
  <a href="https://huggingface.co/chopratejas/kompress-v2-base"><img src="https://img.shields.io/badge/model-kompress--v2--base-65D8FF?labelColor=0C1118" alt="Model"></a>
  <a href="https://docs.headroomlabs.ai/docs"><img src="https://img.shields.io/badge/docs-online-00F0B5?labelColor=0C1118" alt="Docs"></a>
  <a href="https://github.com/headroomlabs-ai/headroom/blob/main/LICENSE"><img src="https://img.shields.io/badge/license-Apache%202.0-98A4B3?labelColor=0C1118" alt="License"></a>
</p>

<p>
  <b><a href="https://docs.headroomlabs.ai/docs/quickstart">Quickstart</a></b> ·
  <b><a href="#headroom-for-teams">Headroom for Teams</a></b> ·
  <a href="#get-started-60-seconds">Install</a> ·
  <a href="#proof-measured-token-savings">Proof</a> ·
  <a href="#agent-compatibility">Agents</a> ·
  <a href="https://docs.headroomlabs.ai/docs">Docs</a> ·
  <a href="https://discord.gg/yRmaUNpsPJ">Discord</a> ·
  <a href="https://github.com/headroomlabs-ai/headroom/blob/main/llms.txt">llms.txt</a>
</p>

<sub><b>AI agents / LLMs:</b> read <a href="https://github.com/headroomlabs-ai/headroom/blob/main/llms.txt"><code>/llms.txt</code></a> here, or fetch
<a href="https://docs.headroomlabs.ai/llms.txt">the live index</a> ·
<a href="https://docs.headroomlabs.ai/llms-full.txt">full docs blob</a>.</sub>

</div>

<!-- mcp-name: io.github.headroomlabs-ai/headroom -->

**Headroom** (`headroom-ai` on PyPI and npm) compresses everything your AI agent
reads — tool outputs, logs, RAG chunks, files, and conversation history — before
it reaches the LLM. Same answers, fewer input tokens. Measured: 21–57% fewer
input tokens on four agent scenarios, 90%+ on repeated JSON arrays and log
lines, little on prose ([Pr
阅读完整原文

商业机会分析 AI 生成

团队级 AI 成本优化网关与看板 (SaaS/On-Premise)

产品构想基于项目 Proxy 模式包装为多租户管理网关,统一接管团队内所有 Agent 的出站请求,提供集中化 Token 节约数据大盘与路由审计。
核心功能集中式代理配置与分发、实时 Token 节约折现统计、团队级压缩规则统一下发、日志审计与合规导出、异常解压回滚机制。
目标用户拥有 10 人以上 AI 研发团队的技术主管、CTO、LLM 账单管理人员。
难度/周期中等 · 4-6 周 · 成本:低(基础云主机、代理转发网络带宽)
收费模式按接入坐席/团队月度订阅,或按已节省 Token 价值的固定百分比抽成(推测)。
竞争风险自建代理可能引入额外网络延迟;注重数据隐私的企业更倾向自行部署开源版本。
依据 数据支持的判断

开发者本地桌面优化中控台 (Headroom GUI)

产品构想针对 Cursor、Claude Code、Aider 等本地编码 Agent 用户,打造无需配置命令行的桌面客户端,一键注入并直观展示省钱数据。
核心功能菜单栏常驻一键 Wrap/Unwrap、可视化实时省钱账单、预设压缩模式切换(代码/日志/宽松/激进)、本地跨 Agent 共享上下文管理面板。
目标用户日常高频使用 AI 编程工具、依赖自身 API 额度付费的独立开发者与程序员。
难度/周期较低 · 2-3 周 · 成本:极低(主要是跨平台桌面端打包与证书费用)
收费模式买断制 License(推测 $19-$39)或提供增值高级特性订阅。
竞争风险纯极客用户对 CLI 接受度极高,桌面客户端付费意愿可能偏弱(推测)。
依据 已验证事实

DevOps/SRE 领域专用智能排障压缩加速包

产品构想针对微服务海量日志和链路追踪数据,提供针对特异性日志格式(K8s, Datadog, Prometheus)的无损提取与极限压缩微服务模块。
核心功能特定日志结构专有压缩算子、报错关键堆栈(如 FATAL/ERROR)无损锁定、PII 敏感脱敏过滤、超高吞吐 Docker 部署镜像。
目标用户构建内部智能排障 Agent、告警根因分析机器人的 SRE/DevOps 团队。
难度/周期较高 · 8-10 周 · 成本:中等(需大量垂直日志语料测试与算法调优)
收费模式企业商用授权按实例计费,或作为排障 Agent 的外挂插件销售服务费。
竞争风险垂直场景异构数据格式多,算法泛化能力若不足会导致 LLM 理解错误(推测)。
依据 AI推测
AI 基于仓库公开数据分析生成,含推测成分,不构成收益承诺。
报告会保存到 个人中心

竞品与相似项目 GitHub Search 真实检索

项目中文简介Stars语言
morluto/rea 借助智能体进行逆向工程,分析应用行为甚至原生二进制文件。 449,667 TypeScript
mattpocock/skills 面向工程师的实用技能集合,提取自作者的 .agents 目录。 320,781 Shell
obra/superpowers 一套实用的智能体技能框架与软件开发方法论。 315,687 Shell
affaan-m/ECC 面向 Claude Code 等工具的智能体性能优化与技能强化系统。 300,724 JavaScript
NousResearch/hermes-agent 一款能与用户共同成长的智能体。 262,414 Python
anomalyco/opencode 开源的代码编写智能体。 225,884 TypeScript
以上为通过 GitHub 官方 Search API 检索的相似项目,功能差异与优劣势需进一步人工确认,配置 AI 后可生成对比分析。

项目优势与风险

技术成熟度创建于 ,最近推送 ,发布过 100 个 Release
社区活跃Star 79,377 / Fork 0 / Issue 0(数据支持,可自行核实)
许可证未检测到(需人工确认)
主要风险上游项目方向可能变化;同赛道竞争者较多(见竞品表);热度与需求不完全等价

安装与使用

快速开始(以仓库 README 为准)
git clone https://github.com/headroomlabs-ai/headroom.git
cd headroom
docker compose up -d   # 或参考 README 中的 docker run 命令
阅读原仓库文档
术语说明:Docker=应用容器(把程序和依赖打包运行);API Key=调用外部服务的密钥;Git Clone=把仓库代码下载到本地。常见错误:API Key 未配置 / 端口占用 / 数据库连接失败,多数项目在 README 的 Troubleshooting 章节有说明。