SuperAPI AI 工具集
合作ENAI 行业资讯收藏
Skill 广场bedrock-guardrails

bedrock-guardrails

安全与审计

查看项目

更新于 10-15 11:17

技能介绍

Amazon Bedrock Guardrails 为生成式 AI 应用提供安全与控制能力，包含六类保障策略，并可通过 ApplyGuardrail API 与任意基础模型（Bedrock、OpenAI、Google Gemini、自托管模型）配合使用，从而在整个 AI 基础设施中保持统一的安全策略。

一、六类保障策略

  1. 内容过滤：拦截有害内容，包括仇恨、侮辱、性、暴力、不当行为以及提示攻击（prompt attacks）。
  2. PII 检测与脱敏：保护敏感信息，如邮箱、社会安全号码、信用卡、姓名、地址等。
  3. 主题拒绝：阻止讨论特定主题，例如财务建议、医疗诊断、法律咨询。
  4. 词过滤器：拦截自定义词、短语或 AWS 托管的脏话列表。
  5. 上下文接地：通过验证事实准确性与相关性来检测幻觉，适用于 RAG 应用。
  6. 自动推理：针对形式化策略规则进行数学验证，准确率最高可达 99%。

二、2025 年增强

  • 标准层：增强检测能力、更广的语言支持、代码相关用例（代码中的 PII、恶意注入）。
  • 代码域支持：可在代码语法、注释、字符串字面量、变量名中检测 PII。
  • 自动推理正式可用（2025 年 12 月）：数学逻辑验证，验证准确率 99%。
  • 跨区域推理：标准层需选择加入才能使用增强能力。

三、主要特性

  • 模型无关：可与任意 LLM 配合使用，不限于 Bedrock 模型。
  • ApplyGuardrail API：无需模型推理即可独立校验内容。
  • 多阶段应用：输入校验、检索过滤、输出校验。
  • 版本控制：支持受控发布与回滚。
  • CloudWatch 集成：指标、日志与告警。
  • AgentCore 集成：为智能体提供实时工具调用校验。

四、使用方式

  1. 创建基础 Guardrail：通过 boto3 的 bedrock 客户端调用 create_guardrail，配置 contentPolicyConfig（如 HATE、VIOLENCE、PROMPT_ATTACK 的输入/输出强度）与 sensitiveInformationPolicyConfig（如 EMAIL、PHONE 匿名化，US_SOCIAL_SECURITY_NUMBER 拦截）。返回 guardrailId 与 version。
  2. 应用 Guardrail 校验内容：通过 bedrock-runtime 客户端调用 apply_guardrail，指定 guardrailIdentifier、guardrailVersion、source（INPUT/OUTPUT）与 content（含 text 与 qualifiers）。若 action 为 GUARDRAIL_INTERVENED 表示内容被拦截，否则通过校验。

五、完整策略示例 创建综合 Guardrail 时可同时配置：

  • 内容过滤：HATE、INSULTS、SEXUAL、VIOLENCE 设为 HIGH，MISCONDUCT 设为 MEDIUM，PROMPT_ATTACK 输入 HIGH、输出 NONE（仅检查输入越狱）。
  • PII 检测与脱敏：EMAIL、PHONE、NAME、ADDRESS、DRIVER_ID 匿名化；US_SOCIAL_SECURITY_NUMBER、CREDIT_CARD_NUMBER、US_PASSPORT_NUMBER 拦截；并支持自定义正则（如 EmployeeID、InternalIP、APIKey）。
  • 主题拒绝：财务建议、医疗诊断、法律建议、政治观点等，类型为 DENY，需提供定义与示例。
  • 词过滤器：自定义词（confidential、proprietary 等）与 AWS 托管脏话列表。
  • 上下文接地：GROUNDING 与 RELEVANCE 阈值（如 0.75）。
  • 自动推理：需先通过 create_automated_reasoning_policy 创建策略文档（如 S3 URI），再在 create_guardrail 中通过 automatedReasoningPolicyConfig 关联 policyArn。

六、强度与动作

  • 内容过滤强度：NONE（不过滤）、LOW（宽松）、MEDIUM（平衡）、HIGH（严格，适用于企业合规关键场景）。
  • PII 动作：BLOCK（拒绝整个内容）、ANONYMIZE（用占位符掩码，如 "John Smith" → "[NAME]"）、NONE（仅检测不动作，用于日志监控）。

七、运行时校验

  • 输入校验：在模型推理前调用 apply_guardrail，source 为 INPUT，若被拦截则不发送给模型。
  • 输出校验：在模型推理后调用 apply_guardrail，source 为 OUTPUT，若被拦截则返回兜底回复。
  • RAG 上下文接地：在 content 中分别以 qualifiers 标记 grounding_source（检索上下文）、query（用户查询）、guard_content（待校验响应），检查 groundingScore 与 relevanceScore 是否低于阈值（如 0.75），以识别幻觉或离题响应。
  • 多阶段 RAG 校验：可在输入校验、输出校验、上下文接地等多个阶段应用 Guardrail。

八、适用场景与限制 适用于需要统一安全策略的生成式 AI 应用，尤其是企业合规、RAG 幻觉检测、PII 保护、智能体工具调用校验等场景。限制方面：标准层增强能力需选择加入；自动推理需单独创建策略文档；部分具体价格、平台支持范围与效果数据在资料中暂未提供。