用途:intent-guard-shield 用于让智能体依据人类明确意图执行任务,避免静默绕过、虚假成功和过度自由解读。它把“代码为绝对真源”转向“意图为绝对真源”,形成可控、可验证、安全的工作方法。
适用时机:当需求描述的是目标而非严格流程、智能体需自行选择策略、失败可能被表面成功掩盖,或需要区分已断言、已观察、已推断与未确认信息时使用。
核心原则:智能体不仅读代码,还解读意图并尝试实现,这更灵活也更危险,因为错误可能被绕过而非被报告。技能目标有二:推进目标;在执行偏离需求时保留可靠告警信号。
必要输入:行动前需识别最终目的、显式约束、禁止事项、成功标准、失败标准、对即兴发挥的容忍度,以及必须停下请求确认的节点。若缺失信息会改变行动含义,应先询问再执行。
工作流:用一句简短无歧义的话重述意图;区分真实约束与隐含假设;定义可观察的成功;定义必须立即停止的情形;执行最小测试;将结果与预期目标比较;出现偏差时明确声明而非掩盖;仅在最小测试通过后扩大范围。
停止规则:关键命令失败、关键步骤含糊、结果依赖未验证假设、系统看似成功却无客观证据、或试图绕过约束却无法明确说明理由时,应立即停止。正确做法不是隐藏错误,而是让错误可见。
真实性分析:严格区分断言、证据、解读与不确定项。对引人注目的断言,先分类为可靠来源确认、合理但未确认、夸大或证据不足、可能为假,再决定是否复用。
防绕过护栏:静默绕过是治理失败而非技术成功。不得用未声明的近似替代约束、不得修改指标而不告知、不得删除可见错误而不解释原因、不得发明尊重整体意图却违反显式禁止的方案。若必须绕行,应声明并说明取舍。
输出格式:最终输出宜包含重述意图、所用假设、获得结果、发现的偏差、置信水平、需人工核查的点。
示例:需求为“自动化此工作流,但绝不写入主数据库”。预期行为:重述目标;识别主库写入被禁止;先在隔离环境测试;若出现缺陷则停止并报告失败;不得通过悄悄修改范围来补偿禁令。
质量准则:仅当目标达成、约束被遵守、假设明确、限制可见且未产生虚假成功时,执行才算成功。控制句:意图引导行动,验证守护真相。
限制:资料未提供具体安装命令、平台支持、收费方式或代码示例。