SuperAPI AI 工具集

agent-governance

智能体与模型

查看项目

更新于 10-15 21:52

技能介绍

用途:为 AI 智能体系统加入安全、信任与策略执行控制,约束其可调用的工具、可处理的内容、可执行的操作量,并通过审计追踪保持可问责性。典型流程为:用户请求→意图分类→策略检查→工具执行→审计日志。

主要能力:

  1. 治理策略:以可组合、可序列化的策略对象定义允许/禁止的工具、内容过滤模式、单次请求最大调用次数及需人工审批的工具;支持多策略组合,采用最严格优先语义。策略可存为 YAML 配置而非硬编码。
  2. 语义意图分类:在工具执行前用加权模式信号检测数据外泄、权限提升、系统破坏、提示注入等危险意图,作为预检安全关卡。
  3. 工具级治理装饰器:包装单个工具函数,依次检查工具白/黑名单、速率限制、参数内容,并记录审计。
  4. 信任评分:以带时间衰减的分数跟踪智能体可靠性,成功加分、失败扣分,可用于多智能体委派场景中的信任注册表。
  5. 审计追踪:仅追加的审计日志,记录时间、智能体、工具、动作、策略等,支持导出 JSON Lines。
  6. 框架集成:给出 PydanticAI、CrewAI、OpenAI Agents SDK 的接入示例。

使用方式:定义 GovernancePolicy,按需组合组织级、团队级、智能体级策略;用 govern 装饰器包裹工具函数;在调用前做意图分类;用 TrustScore 与 AuditTrail 记录与门控敏感操作。治理级别分为 Open、Standard、Strict、Locked 四档。

适用场景:可调用外部工具(API、数据库、shell)的智能体、多智能体委派系统、生产部署中的合规与审计、金融/数据访问/基础设施管理等敏感操作。

限制:资料未提供具体安装命令、依赖版本、性能数据或收费信息;示例为模式参考,实际效果取决于策略配置与集成方式。