SuperAPI AI 工具集

ai-coding-agents-provider-runtime

编程与开发

查看项目

更新于 10-16 04:28

技能介绍

用途:设计或评审编码智能体运行时中的模型提供方层,涵盖提供方抽象、流式语义、工具调用协议归一化、上下文窗口策略、重试与回退路由。

主要能力:把请求结构、流式事件、工具调用、用量计费与错误分类收敛到统一内部接口;把不同提供方的流式输出归一化为本地事件模型;以可选能力标志保留提供方特性;显式建模上下文窗口的截断、摘要、重放与提示缓存约束;将任务预算与令牌预算分开;按失败类别区分重试;设计可见的回退路由;按提供方与轮次归因成本、令牌、缓存命中与延迟;跨提供方一致性测试。

关键约束:重试透明边界是首个流式增量之前;推理状态需原样回传且不可跨提供方移植;缓存前缀需字节稳定;回退到不同模型或提供方视为语义变更且必须可观测;toolshim 用于无原生函数调用能力的模型,并应作为提供方适配器而非工具层补丁;ACP 委派的智能体可作为提供方,采用 acp:// 方案。

适用场景:编码智能体 CLI 的多提供方设计、跨提供方工具调用与结构化输出归一化、流式令牌处理或部分消息组装的评审、为模型请求增加重试与超时或回退策略、决定上下文窗口与提示缓存约束如何影响运行时行为。

限制:具体定价、计费与平台支持范围资料暂未提供;实现细节需结合各提供方当前文档核对。