SuperAPI AI 工具集

human-in-the-loop

通用与其它

查看项目

更新于 10-16 01:13

技能介绍

用途:为 AI 智能体的工作流设计可审计的人类监督,确定在哪个决策点加入人工判断能真正降低风险,并覆盖审批闸门、升级路径与安全状态流转。核心观点是:仅弹一个确认框不等于监督,需把经授权的决策绑定到可理解、不可篡改的操作上,并保留发生了什么 的证据。

主要能力:梳理智能体目标、工作流状态与所有可提出或执行的动作,按可逆性、影响规模、敏感度、外部可见性、金额、时效、受影响权利等划分风险层级,并为每个动作分配最轻但足够的监督方式,包括事后审计、事后通知、事前审批、升级审批、双人控制与禁止执行。产出动作清单与风险层级、闸门策略(含校验谓词、合格审批角色与不同主体、法定人数、证据、有效期、超时、结构化升级、审计不可用时的行为、执行时再授权、补偿、破窗与职责分离)、覆盖准备/审核/决策/执行/失败/恢复的状态机、审批界面、仅追加的决策记录模式与留存脱敏要求、实施或文件级计划、策略与并发测试,以及验证证据与残余风险。

使用方式:需要机器可读策略时,从 assets/approval-policy-template.json 起步,用 scripts/validate_gate_policy.py 校验,风险分层与状态机指引见 references/gate-design-guide.md。工作流为:盘点决策与影响,分配最轻足够监督,规定决策包内容,把身份与审批绑定到具体动作,实现安全状态机(如 prepared -> pending_review -> approved | rejected | expired | cancelled;approved -> executing -> completed | failed | compensation_pending,转换需原子且幂等),补充升级与恢复,最后验证控制。

适用场景:如退款智能体(小额可自主、超额需主管、更高额需财务加支持)、通信智能体(草稿由账户负责人审批收件人、主题、正文摘要、附件与发送时间,编辑即失效)。

限制与边界:设计闸门并不授权执行底层动作;不得让模型伪造、冒充或推断人工审批;身份、授权、法定人数与审批绑定须在模型输出之外强制;不得暴露秘密或不必要个人信息;身份缺失、谓词含混、状态过期、审批或豁免失效、租户错误、法定人数不足、高风险动作审计存储不可用时应失败关闭;避免暗黑模式、预选批准、紧迫感操纵与隐藏不同动作的捆绑;不得用人工审查粉饰歧视、违法或禁止性决策。其余收费与价格等信息暂未提供。