用途:Agent Instinct System 为智能体提供一层通用安全防护,在智能体形成行动意图(写文件、调用工具、生成输出)时自动触发检查,无需智能体主动“记得”执行。它源自 googleadsagent.ai 的 Buddy 智能体,用于避免单次错误 API 调用耗尽客户预算。
主要能力:系统分三层。第一层 reflexes(反射)为零成本即时检查,如受保护文件列表、禁止操作模式、预算上限;第二层 gates(闸门)执行轻量校验,如语法检查、依赖验证、范围校验;第三层 assessments(评估)做更深入分析,如任务对齐、影响估算、副作用预测。执行后还有事后审计,并可将新保护模式反馈回系统。内置反射包括受保护文件(.env、credentials、secrets、.pem、id_rsa、package-lock.json、yarn.lock)、破坏性操作(rm -rf、DROP TABLE、DELETE FROM、git push --force)和预算上限检查。
使用方式:通过 InstinctEngine 注册不同层级的 Instinct,evaluate 按 reflex、gate、assessment 顺序依次执行,任一返回 allow:false 即拒绝并给出原因,可能附带替代方案。资料提供了 TypeScript 核心引擎与内置反射示例,以及 Python 的范围校验闸门示例。
适用场景:智能体操作生产系统、需要纵深防御、多智能体或多人协作同一代码库、涉及删除/部署/API 变更等破坏性操作、合规要求对 AI 生成变更做事前校验。
限制与最佳实践:反射层须在 1ms 内完成且无 I/O;拒绝应可操作;从拒绝列表逐步演进为允许列表;记录所有激活;不得因“可信”任务跳过;从事故中派生新反射;用对抗性意图测试;对配置做版本管理。平台兼容性表列出 Claude Code、Cursor、Codex、Gemini CLI 在钩子、文件保护、命令过滤、预算执行和事后审计方面的支持情况。具体安装命令与收费信息暂未提供。