用途:为 AI 智能体系统加入安全、信任与策略执行控制,约束其可调用的工具、可处理的内容、可执行的操作量,并通过审计追踪保持可问责性。典型流程为:用户请求→意图分类→策略检查→工具执行→审计日志。
主要能力:
- 治理策略:以可组合、可序列化的策略对象定义允许/禁止的工具、内容过滤模式、单次请求最大调用次数及需人工审批的工具;支持多策略组合,采用最严格优先语义。策略可存为 YAML 配置而非硬编码。
- 语义意图分类:在工具执行前用加权模式信号检测数据外泄、权限提升、系统破坏、提示注入等危险意图,作为预检安全关卡。
- 工具级治理装饰器:包装单个工具函数,依次检查工具白/黑名单、速率限制、参数内容,并记录审计。
- 信任评分:以带时间衰减的分数跟踪智能体可靠性,成功加分、失败扣分,可用于多智能体委派场景中的信任注册表。
- 审计追踪:仅追加的审计日志,记录时间、智能体、工具、动作、策略等,支持导出 JSON Lines。
- 框架集成:给出 PydanticAI、CrewAI、OpenAI Agents SDK 的接入示例。
使用方式:定义 GovernancePolicy,按需组合组织级、团队级、智能体级策略;用 govern 装饰器包裹工具函数;在调用前做意图分类;用 TrustScore 与 AuditTrail 记录与门控敏感操作。治理级别分为 Open、Standard、Strict、Locked 四档。
适用场景:可调用外部工具(API、数据库、shell)的智能体、多智能体委派系统、生产部署中的合规与审计、金融/数据访问/基础设施管理等敏感操作。
限制:资料未提供具体安装命令、依赖版本、性能数据或收费信息;示例为模式参考,实际效果取决于策略配置与集成方式。