SuperAPI AI 工具集
合作ENAI 行业资讯收藏
全部工具AI智能体agent-governance-toolkit

agent-governance-toolkit

Agent Governance Toolkit（AGT）是微软开源的 AI 智能体治理工具包，为自主 AI 智能体提供策略执行、零信任身份、执行沙箱与可靠性工程能力，宣称覆盖 OWASP Agentic Top 10 全部 10 项。它不在提示词层面做安全，而是在确定性的应用代码中拦截每一次工具调用、消息发送与智能体委派，被内核拒绝的动作在结构上无法执行。支持 Python 3.11+，通过 pip 安装，可适配多种主流智能体框架，提供策略、身份、信任、审计等治理层，各层均可选。项目处于公开预览阶段，采用 MIT 许可证。

访问官网

工具介绍

用途

Agent Governance Toolkit（AGT）面向需要把自主 AI 智能体投入生产环境的团队，解决三个核心问题：

  1. 这个动作是否被允许？ 拥有 send_email 和 query_database 权限的智能体不应能执行 drop_table。OAuth 作用域和 IAM 角色控制的是智能体能访问哪些服务，而不是连接之后能做什么。
  2. 是哪个智能体做的？ 多智能体系统中五个智能体可能共用一个 API 密钥，出问题时“某个智能体干的”不足以作为事件响应依据。
  3. 能否证明发生了什么？ 审计人员和监管机构需要防篡改的决策记录：当时生效的策略是什么、智能体请求了什么、为何被允许或拒绝。

AGT 不试图在提示词内部赢得这场对抗。每一次工具调用、消息发送和委派都会在模型意图到达网络之前，被确定性的应用代码拦截。被 AGT 内核拒绝的动作不是“不太可能”，而是结构上不可能。

主要能力

  • 策略执行：在每次调用时评估 YAML 策略，将决策记录到审计轨迹，策略阻止动作时抛出 GovernanceDenied。
  • 零信任身份：为智能体提供身份与信任机制。
  • 执行沙箱：提供执行隔离能力。
  • 可靠性工程（SRE）：面向自主智能体的可靠性保障。
  • 审计日志：记录每一次决策，形成防篡改记录。
  • 多语言 SDK：五种语言 SDK 实现核心治理（策略、身份、信任、审计），Python 提供完整技术栈。Copilot CLI 和 Claude Code 是基于 TypeScript SDK 构建的第一方开发者界面。
  • 框架适配：提供多种主流智能体框架的集成与快速开始示例。
  • 规范与测试：每个主要组件都有正式的 RFC 2119 规范与一致性测试，992 个一致性测试确保代码与规范对齐，29 份架构决策记录说明设计原因。

使用方式

前置条件：Python 3.11+。

快速开始导入需使用 [full] extra。基础 agent-governance-toolkit wheel 仅安装合规 CLI；治理模块位于整合后的核心发行版中。agentmesh 快速开始导入仍是当前的包装 API。导入 agent_os 会发出 DeprecationWarning，因为旧的 agent-os-kernel 发行版已弃用，应改用 agent-governance-toolkit-core（或包含它的 [full] extra）。策略引擎宿主代码使用 ACS SDK；agt-policies 提供单向的 v4 到 v5 迁移命令。ACS 之前的 agent_os.policies 规则模型已移除，BREAKING_CHANGES.md 列出了替代方案。

策略引擎在上游以 agent-control-spec 发布，agent-hooks 定义其拦截契约。AGT 在 policy-engine/ 中保留 AgentControl 宿主 API 和框架适配器，而不是第二个决策引擎，从而让策略评估集中在一处。AGT 可通过依赖更新采纳上游修复，同时保留其宿主 API 和框架集成。

两行代码治理任意工具函数：在每次调用时，safe_tool 评估 YAML 策略、将决策记录到审计轨迹，并在策略阻止动作时抛出 GovernanceDenied。也可使用完整的 AgentControl API 进行编程式控制。

对于 Claude Code，可将 AGT 添加为插件市场并安装治理插件。

每一层都是可选的。从 govern() 开始，随风险状况增长再添加层。多数团队只运行策略执行加审计日志，并不需要完整技术栈。

适用场景

  • 需要将自主智能体部署到生产环境、并满足审计与合规要求的团队。
  • 多智能体系统中需要区分具体是哪个智能体执行了动作的场景。
  • 需要防止智能体执行危险操作（如删除数据库表）的场景。
  • 使用 Claude Code、Copilot CLI 等开发界面并希望加入治理能力的开发者。

限制

  • 项目处于公开预览（Public Preview）阶段，GA 之前可能有破坏性变更。
  • AGT 在应用中间件层而非操作系统内核层执行治理，策略引擎与智能体共享同一进程边界。生产环境建议将每个智能体运行在独立容器中，以实现操作系统级隔离。
  • 提示词层面的安全不是控制面。OWASP LLM01:2025 明确指出，提示注入尚无万无一失的防范方法；Andriushchenko 等（ICLR 2025）报告在 JailbreakBench 基准上，使用自适应攻击对 GPT-4o、GPT-3.5、Claude 3 和 Llama-3 的攻击成功率达 100%。微软自身的 AI 红队智能体将攻击成功率（ASR）形式化为该类失败的规范指标，并强调缓解措施不能完全消除风险，红队测试必须是持续过程。
  • 若使用 AGT 构建与第三方智能体框架或服务协作的应用，风险自负；建议审查与第三方服务共享的所有数据，并了解第三方的数据保留与存放实践。
  • 官方来源仅限项目团队维护的渠道，团队不维护也不认可任何声称官方的第三方网站、包或文档站点。

许可与来源

本项目采用 MIT 许可证。项目可能包含项目、产品或服务的商标或徽标，使用微软商标或徽标须遵循微软商标与品牌指南。

同类工具

查看分类