用途:OmniRoute 在把请求转发给模型提供商之前压缩令牌负载,无需修改代码,配置一次即对所有请求透明生效。需要环境变量 OMNIROUTE_URL 与 OMNIROUTE_KEY。
主要能力与典型节省:RTK 适合终端/构建/测试/git 输出,节省 60–90%;Caveman 适合人类散文与聊天历史,输入节省 46%;Stacked(rtk → caveman)适合混合编码会话,节省 78–95%;MCP 无障碍过滤器适合浏览器/无障碍工具结果,节省 60–80%。Caveman 强度分 lite(安全)、standard(均衡)、aggressive(长会话)、ultra(上下文恢复)。
使用方式:用 curl 调用设置接口读取或修改配置。查看当前设置:curl $OMNIROUTE_URL/api/settings/compression -H "Authorization: Bearer $OMNIROUTE_KEY"。启用 RTK:curl -X PUT $OMNIROUTE_URL/api/settings/compression -H "Authorization: Bearer $OMNIROUTE_KEY" -H "Content-Type: application/json" -d '{ "mode": "rtk", "enabled": true }'。启用 stacked:mode 设为 stacked,并设 stackedPipeline 为 ["rtk", "caveman"]。启用 Caveman:mode 设为 standard。启用前可预览:POST $OMNIROUTE_URL/api/compression/preview,返回 compressed、original_length、compressed_length、savings_pct。
MCP 无障碍树过滤默认启用,可配置 collapseThreshold(默认 30)与 maxTextChars(默认 50000)。Caveman 支持 pt-BR、es、de、fr、ja 语言包,可设 language 与 autoDetectLanguage。也可通过 MCP 工具 omniroute_compression_status、omniroute_compression_configure、omniroute_set_compression_engine 操作。禁用压缩:PUT 设置接口传 { "enabled": false }。
限制:无效 mode 返回 400,可选 off、lite、standard、aggressive、ultra、rtk、stacked;stackedPipeline 必须包含有效引擎 id(rtk、caveman)。其余平台与价格信息暂未提供。