SuperAPI AI 工具集

distil

Distil 是一个面向智能体运行时的上下文压缩工具,可逆地压缩大型工具输出为可恢复句柄,按需展开,并在本地跟踪 token 与成本节省。它强调“质量契约”:缓存感知、因果剪枝,并在 7 个领域通过非劣效性认证。支持任意 SDK,提供库、代理、包装器、MCP 服务器和框架钩子等多种集成方式。

访问官网

工具介绍

Distil 是一个面向智能体运行时的上下文压缩工具,核心目标是对编码智能体的上下文工具链进行成本与决策影响的测量,并提供可逆的压缩能力。它强调“质量契约”:缓存感知、因果剪枝,并在 7 个领域通过非劣效性认证。

用途方面,Distil 主要解决智能体在长会话中反复发送大量工具输出、日志和历史记录导致的 token 消耗与成本问题。它通过可逆压缩将大型工具输出折叠为句柄,智能体可在任务中通过 distil_expand 工具按需恢复原始字节。同时,它提供测量工具,用于评估任意压缩器(包括提供商自身的压缩)在美元成本和智能体决策变化上的实际影响。

主要能力包括:可逆压缩(默认无损,每个字节可恢复);缓存感知,不重写提供商已缓存的字节;影子模式,通过重放请求比较原始与压缩上下文,报告决策等价性;审计功能,以命名压缩器方式重放用户请求样本,报告帮助/损害/无法判断;支持多种集成方式,包括库调用、代理、包装器、MCP 服务器和框架钩子;提供实时状态行、会话剖析、OTel 跨度、Prometheus 指标等可观测性。

使用方式上,Distil 提供多种安装途径(curl、Homebrew、pipx、Windows 等)。可作为库使用:from distil import compress_messages;TypeScript 也有对应 npm 包。可运行代理,将任何 base_url 客户端指向它,支持 Anthropic Messages、OpenAI Chat Completions 和 Responses API、Azure OpenAI、Gemini generateContent。可包装智能体:distil wrap -- <agent>,提供 18 个预设(aider、claude、codex、gemini、copilot 等)。可设置钩子:distil setup --hooks,用于 Claude Code、Cursor、Gemini CLI 和 Codex CLI。还可通过 distil sh -- <command> 在源头塑造 shell 输出。

适用场景包括:编码智能体的长会话上下文管理、工具输出压缩、成本测量与审计、多提供商环境下的统一压缩机制。限制方面,资料显示在短编码任务上未证明任何压缩器能节省成本;长会话试点结果不确定;在固定费率订阅上没有按 token 计费可削减,但可节省速率限制窗口;压缩效果取决于工作负载,冗长 JSON 和重复日志可压缩 25–99%,而散文和唯一行输出压缩约 0%。