Amazon Bedrock Automated Reasoning 为 AI 生成内容提供基于形式逻辑的数学验证能力,用于判断模型输出是否符合预先定义的政策规则。
用途 该能力面向需要确定性、可审计的策略合规校验场景。与概率式内容过滤不同,它通过形式逻辑和定理证明技术,判定 AI 输出是否满足显式策略要求,适用于医疗、金融、法律、保险、客服及行业特定监管等领域的合规检查。官方说明其验证准确率最高可达 99%,于 2025 年 12 月正式可用(GA)。
工作原理
- 策略定义:上传包含规则与要求的政策文档(PDF、Word、文本格式)。
- 规则提取:AWS 从自然语言政策中提取形式逻辑规则,无需使用 Cedar 或正式语言编写。
- 验证:对每一条 AI 响应按提取出的规则进行数学校验。
- 结果:Valid(符合策略)、Invalid(违反策略)或 No Data(信息不足)。
主要能力
- 数学验证:采用定理证明技术进行确定性校验。
- 自然语言策略:可直接上传已有政策文档,无需编写正式语言。
- 最高 99% 准确率:官方称为策略合规领域领先的验证准确率。
- 解释性反馈:当策略被违反时提供详细说明及修正建议。
- 多领域支持:医疗、金融、法律、保险、客服等。
集成方式
- Bedrock Guardrails:可作为第 6 项防护策略加入。
- AgentCore Policy:可与 Cedar 策略结合,用于智能体治理。
- Knowledge Bases:可对 RAG 响应按领域策略进行校验。
- 多模型:支持任意基础模型(Claude、Nova、Titan、GPT、Gemini)。
适用场景
- 按 HIPAA、临床协议或治疗指南校验医疗响应。
- 确保金融建议符合监管要求(SEC、FINRA、Dodd-Frank)。
- 按司法辖区法规校验法律响应。
- 按保单条款校验保险理赔决策。
- 执行客服响应标准,确保符合行业特定监管要求。
- 需要确定性(而非概率性)策略执行,或需要面向监管合规的审计轨迹时。
不适用场景
- 通用内容安全(应使用内容过滤器)。
- PII 检测(应使用敏感信息策略)。
- RAG 幻觉检测(应使用上下文接地)。
- 实时流式响应(自动推理不支持)。
- 无策略约束的创意写作。
- 简单关键词过滤(应使用词过滤器)。
前置条件 必需:具备 Bedrock 访问权限的 AWS 账户;策略文档(PDF、Word 或文本格式);Bedrock 操作的 IAM 权限;用于存储策略的 S3 存储桶。 建议:熟悉所在领域的政策;准备代表合规与违规的测试用例;与 CloudWatch 集成以进行监控;已配置 Guardrail 或智能体基础设施。
所需 IAM 权限(资料原文提供) { "Version": "2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "bedrock:CreateAutomatedReasoningPolicy", "bedrock:GetAutomatedReasoningPolicy", "bedrock:UpdateAutomatedReasoningPolicy", "bedrock:DeleteAutomatedReasoningPolicy", "bedrock:ListAutomatedReasoningPolicies", "bedrock:CreateGuardrail", "bedrock:UpdateGuardrail", "bedrock-runtime:ApplyGuardrail" ], "Resource": "" }, { "Effect": "Allow", "Action": [ "s3:GetObject", "s3:PutObject" ], "Resource": "arn:aws:s3:::your-policy-bucket/" } ] }
操作一:创建自动推理策略(约 5–15 分钟,自动化程度 90%) 目的是从政策文档中提取形式规则。步骤包括:上传政策文档至 S3,创建自动推理策略,并轮询等待策略进入 ACTIVE 状态。示例代码(资料原文提供)使用 boto3 的 s3_client.put_object、bedrock_client.create_automated_reasoning_policy(参数含 name、description、policyDocument.s3Uri),并通过 get_automated_reasoning_policy 检查状态(CREATING、ACTIVE、FAILED)。
策略文档格式示例(资料原文提供)
- 医疗政策(HIPAA + 临床协议):涵盖患者信息保护、临床决策支持、紧急协议、适用范围限制等规则。
- 金融合规(SEC 法规):涵盖投资建议标准、适当性要求、禁止行为等。
- 保险保单校验:涵盖承保范围校验、理赔金额上限、所需文件、除外责任等。
操作二:创建测试用例(约 10–20 分钟,自动化程度 85%) 目的是用测试场景验证自动推理策略。资料给出了医疗领域的测试用例示例,涵盖 HIPAA 违规、合规去标识化数据、临床协议违规、紧急协议违规、范围限制违规与合规通用信息等,并通过 create_automated_reasoning_test_case、get_automated_reasoning_test_case、validate_automated_reasoning_test_case 等接口创建与运行测试套件,统计通过率。
操作三:校验 AI 响应(每次校验小于 1 秒,自动化程度 100%) 目的是对照自动推理策略检查模型输出。示例流程为创建临时 Guardrail(传入 automatedReasoningPolicyConfig.policyArn),调用 bedrock_runtime.apply_guardrail(source 为 OUTPUT),根据返回 action 判断是否触发防护;若触发,则从 assessments 中的 automatedReasoningChecks 获取 result、explanation、suggestion 与 violatedRules。返回结果对应 Valid、Invalid(含解释与建议)或 No Data。
限制与说明 实时流式响应不受支持;通用内容安全、PII 检测、RAG 幻觉检测、无约束创意写作与简单关键词过滤均不适用。资料未提供具体收费与价格信息,暂未提供。