Headroom logo

Headroom

★★★★ 4.2/5
访问官网
分类
编程
定价
免费增值
访问
直连可用

快速结论

Headroom v0.32 是放在 Agent 与大模型 API 之间的上下文压缩层。它会识别 JSON、日志、代码、RAG 片段和对话历史,选择对应压缩器,再把缩短后的请求转发给上游模型。项目采用 Apache 2.0 许可证,Python 的正确包名是 headroom-aiheadroom CLI 只随 Python 包提供,npm 的 headroom-ai 是 TypeScript SDK,不包含 CLI。

“本地优先”需要准确理解:代理、压缩和 CCR 原文缓存可以在本机运行,但只要使用 Anthropic、OpenAI、Bedrock 等云模型,压缩后的提示与所需上下文仍会转发给该供应商。CCR 原文默认落在本地存储,也意味着本机新增了一份可能包含源码、日志和业务数据的副本。它值得在 token 密集型 Agent 上测试,但必须用自己的任务做准确率、延迟、召回和故障评估,不能把项目自报基准当成生产保证。

核心功能

  • 内容感知压缩:针对 JSON、代码、文本、日志等选择不同压缩路径,而非统一截断。
  • 本地透明代理:以 OpenAI/Anthropic 兼容链路接收请求,压缩后转发至配置的上游模型。
  • Python 与 TypeScript 库:Python 安装 headroom-ai;npm 同名包仅提供可导入 SDK。
  • 本地 MCP:提供压缩、检索和统计工具,可接入支持本地进程的 MCP 客户端。
  • CCR 可检索缓存:保存压缩前原文,需要细节时通过检索工具取回。
  • Agent 包装与集成:可包装部分编码 Agent,并与 LiteLLM、LangChain、Agno 等链路组合。

适合人群

  • 工具调用会产生大量日志、JSON、检索结果和代码片段的 Agent 开发者。
  • 希望在不重写业务客户端的前提下验证上下文压缩的团队。
  • 同时使用多个模型或 Agent,希望统一观察 token 消耗的工程团队。
  • 能维护本地代理、密钥、缓存、监控和回退策略的开发者。
  • 不适合请求本来很短、无法运行本地进程、禁止创建本地原文缓存,或不能容忍压缩遗漏的工作流。

使用场景

最有价值的场景是“输入很长,真正相关内容很少”:SRE 日志排障、代码搜索、批量 API 结果、Issue 分拣和多路 RAG。先用离线记录回放,比较不开启 Headroom 与开启后的答案、工具选择、延迟和总成本;若错误不是可接受的降级,就不应直接放到生产路径。

对于常规 IDE 内编码,可以对比 CursorClaude Code 的原生上下文管理;已有模型网关可结合 LiteLLM 评估。Headroom 是中间层,不替代模型、权限控制、内容脱敏或完整可观测平台。

价格与版本

Headroom v0.32 开源仓库与本地使用采用 Apache 2.0,软件本身免费。实际成本包括上游模型 API、本机或服务器资源、模型文件下载、缓存存储、升级与监控。是否省钱取决于压缩后的输入降幅、额外延迟、输出 token、缓存命中和错误返工,不能只看输入 token 百分比。

项目也提供面向团队的商业部署与托管服务,包括集中配置、组织级仪表盘、访问控制、VPC 或隔离部署等方向,价格需要联系团队。开源许可证不等于商业托管免费;企业采购应确认支持范围、可用性目标、数据处理协议、升级窗口和退出方案。

国内访问与使用体验

本地代理和 MCP 可在自己的机器运行,但安装可能拉取 PyPI/npm 依赖、ONNX 运行时或 Hugging Face 模型,速度受软件源和网络影响。Python CLI 应安装 headroom-ai,推荐先运行健康检查和性能测试;npm 包不要当成 headroom 命令安装。云模型的可达性与费用仍由所选供应商决定。

安全上要区分三类数据:本地进入代理的原始内容、CCR 保存的原文、发给上游供应商的压缩请求。应限制 CCR 路径权限、磁盘加密、TTL、备份和日志内容,并检查崩溃转储。MCP 工具能取回原文,客户端权限过宽时也可能扩大泄露面。

优点

  • Apache 2.0 开源,可检查压缩、代理和存储实现。
  • 代理、库与 MCP 多种接入方式,便于做小范围试验。
  • 内容感知处理比盲目截断更适合结构化工具输出。
  • CCR 提供找回原文的机制,而不是把压缩做成不可逆删除。
  • 适合通过真实流量回放衡量 token、延迟和质量权衡。

不足

  • 云模型请求仍会转发到模型供应商,不能宣称端到端数据不离机。
  • CCR 本地存储增加敏感数据副本、生命周期与取回权限风险。
  • 压缩可能遗漏低频但关键细节,检索回退也依赖 Agent 正确调用。
  • 官方基准由项目方提供,样本规模、模型、任务和版本可能不代表你的环境。
  • 代理是额外故障点;商业托管价格和服务条款需联系确认。

替代品对比

工具更适合谁核心差异注意点
LiteLLM需要统一模型网关、预算和路由的团队Provider 路由与网关治理更广上下文压缩不是唯一核心
LangChain自己编排检索、工具和记忆的开发者应用组件与流程控制更完整压缩、缓存与评测需自行设计
Claude Code主要做终端仓库任务的开发者原生 Agent 执行闭环跨供应商压缩控制较少
Cursor偏好 IDE 项目索引和编辑的团队编辑器内上下文体验成熟不是独立可插拔的压缩代理

常见问题 FAQ

Headroom v0.32 的正确安装包是什么?

Python 使用 pip install "headroom-ai[all]" 或对应 uv tool install,它包含 headroom CLI。npm install headroom-ai 只安装 TypeScript SDK,不提供 CLI。

Headroom 会把数据发给云端吗?

Headroom 本身可在本地压缩,但代理随后会把请求发给你配置的 LLM provider。使用本地模型才可能让模型推理链路也留在自管环境。

CCR 会保存什么?

CCR 为可逆压缩保存原始内容和检索引用。它能恢复细节,也会在本地形成包含提示、日志、代码或检索文档的敏感数据存储。

官方节省比例能直接用于预算吗?

不能。官方表格是项目方在特定任务上的结果。应回放自己的样本,并同时计算输入、输出、延迟、错误率和返工成本。

MCP 是远程服务吗?

常见方式是由本地 headroom CLI 启动 MCP 服务。客户端仍需配置可执行文件路径,并限制哪些会话可以调用原文检索工具。

有企业或托管版吗?

有面向团队的自托管支持和全托管方向,但公开页要求联系团队。采购前需要单独确认定价、SLA、数据处理和支持责任。

总结

Headroom v0.32 是值得关注的上下文优化中间层,尤其适合日志、代码搜索和 RAG 输出占据大部分 token 的 Agent。它不是隐私魔法:本地压缩后仍可能向云模型转发,CCR 也需要像敏感数据库一样管理。先离线回放,再灰度接入,并为压缩失败和代理故障保留直连回退,才是可靠的采用方式。

最后更新:2026年7月21日

同类工具推荐