SuperAPI AI 工具集

awareness

安全与审计

查看项目

更新于 10-16 08:06

技能介绍

用途:Awareness 用于让 AI 在任务执行中持续监控自身推理质量,识别幻觉风险、范围蔓延、上下文退化以及置信度与准确性不匹配等内部威胁。它改编自 Cooper 颜色代码与 OODA 循环,适合推理质量重要的任务、陌生领域、出现早期预警信号、长时间工作会话,以及高风险输出前的检查。

主要能力:用颜色代码标定当前警觉状态——White(自动驾驶,无自检,幻觉风险最高)、Yellow(默认的放松警觉,对照证据检查输出)、Orange(已识别具体风险并形成应急方案)、Red(风险已发生,执行预案)、Black(级联失败,需停止并重新锚定)。系统化扫描四类威胁信号:幻觉风险(未经验证的事实、API 名称或路径)、范围蔓延(顺手添加未请求的功能)、上下文退化(引用早期信息而不重读、前后矛盾)、置信度与准确性不匹配(证据薄弱却下确定结论)。识别威胁后运行 OODA 循环:观察、定向、决策、行动。风险发生时执行快速稳定协议:暂停、重读用户消息、用一句话陈述任务、列举已确认事实、确定一个下一步。还可按任务类型调整监控重点,如代码生成关注 API 幻觉、架构设计关注范围蔓延、数据分析关注确认偏误、调试关注隧道视野、文档关注上下文陈旧、长对话关注上下文退化。

使用方式:作为持续的后台过程运行,默认保持 Yellow 状态,按任务类型调整监控焦点,每次感知事件后简短复盘校准,并将反复出现的威胁模式记录到 MEMORY.md。

限制:资料未提供具体安装命令、平台支持、收费方式或效果数据;该技能依赖 AI 自身的自我评估,若评估本身处于自动驾驶状态则可能失效。