SuperAPI AI 工具集

tokenleak

编程与开发

查看项目

更新于 11-04 04:14

技能介绍

用途

Tokenleak 是一套面向编码智能体的规则,用于削减每次后续调用中重复发送的上下文。其出发点是:智能体拉入上下文的每个工具结果,在压缩之前都会在之后的每次调用中被重新发送,因此一次 60 次调用的会话中,早期读取的一段 6k token 日志可能被重复付费约 55 次。这些规则让智能体只让“下一次决策所需”的内容进入上下文。

适用时机

  • 用于会读取文件、运行测试、构建或安装、使用 git 或搜索代码库的编码任务。
  • 当用户希望节省 token、降低成本或保持在用量限制之内时使用。
  • 当会话因工具输出填满上下文而不断触发压缩时使用。

主要规则

先定位,再读取。 不知道文件大小时,在首次搜索时一并检查(wc -l)。先搜索(grep -n、rg -n、Grep),然后只读取所需区域(offset/limit、sed -n 'A,Bp')。仅当文件很短(约 300 行以下)或确实需要全部内容时才读取整个文件。

计算,而不是读取。 对于数据类问题(大数据文件、CSV、JSON、日志中的计数、合计、过滤、查找),运行一段短脚本或单行命令,只打印答案。绝不把数据本身拉入上下文。

限制每条命令的输出。 绝不让测试、构建、安装或日志无限制地流入上下文。

  • 安静或仅失败模式:pytest -q -x、vitest run --reporter=dot、go test ./... 2>&1 | grep -v '^ok'、cargo test -q、npm ci --silent、make -s。
  • 长任务:L="$(mktemp)" || exit 1; cmd > "$L" 2>&1; echo "exit=$?"; tail -n 40 "$L"。需要更多?在保存的日志上运行 grep -n -m 20 -E 'error|FAIL|panic' "$L"。绝不要为了看更多输出而重新运行任务。
  • 针对单个失败的测试迭代,而不是整个测试套件。最后安静地运行一次完整套件。

绝不重复读取已有内容。 你读取或写入过的文件仍在上下文中。仅在压缩之后或其他东西修改了它之后才重新读取。

批量执行互不依赖的调用。 互不依赖的读取和搜索放在同一轮(并行工具调用),中间无需判断的 shell 步骤合并为一条命令(wc -l a b; grep -n x a | head)。每一次额外的往返都会重新发送所有内容。

用 diff 代替整个文件。 git status -s、git diff --stat 然后 git diff -- <path>、git log --oneline -n 15、git show --stat <sha>。

编辑,而不是重写。 只做定向编辑。绝不为了改几行而重写整个文件,也绝不把磁盘上已有的代码粘贴回聊天。

收窄搜索与抓取。 按路径和文件类型限定范围,限制结果数量(-m、head_limit、| head -n 30、-l 仅取名称)。从 API 和 JSON 中挑选字段(--json a,b、jq '.items[] | {id,name}'、per_page)。向网页抓取提出精确问题,而不是倾倒整个页面。

限定大范围探索。 仅在用户或治理流程授权委托时使用可用的子智能体。否则直接审查。摘要并不能证明所需文件或支撑材料已被检查;保留证据和明确的覆盖范围限制。

精简作答。 先给结果。不要逐步复述,不要重述 diff,不要对用户已能看到的内容做收尾总结,不要填充内容。

绝不通过以下方式节省 token

  • 截断过度以致错过真正的错误(改为在保存的日志上用 grep/sed -n 扩大范围);
  • 跳过正确编辑所需的读取,或猜测文件内容;
  • 跳过验证。安静地运行测试。

限制

  • 节省取决于工作负载和模型:在基准中,一个简短的修测试任务节省 5%,嘈杂构建和多文件功能节省 24-51%;像 Haiku 4.5 这样的小模型在没有插件读取守卫的情况下几乎无法遵循这些规则。
  • 基准覆盖两个模型和合成仓库上的四个小任务,运行结果波动 2 到 4 倍。
  • 这些规则本身消耗约 850 token 的上下文;在非常短的会话中可能无法回本。
  • 配套的对话记录审计工具(tokenleak.py)位于源码仓库中,此处未包含。

示例

先定位再读取,只把下一次决策所需的内容交给智能体:

wc -l app/service.py          # size, alongside the search
rg -n "def handle_" app/      # find the region first
sed -n '120,180p' app/service.py

限制嘈杂构建并保持失败可见:

L="$(mktemp)" || exit 1; npm test > "$L" 2>&1; echo "exit=$?"; tail -n 40 "$L"
grep -n -m 20 -E 'error|FAIL' "$L"

计数,而不是把数据粘贴进上下文:

python3 -c "import json;print(len(json.load(open('events.json'))))"