用途:为 TrueFoundry AI Gateway 配置内容安全护栏,对 LLM 输入/输出以及 MCP 工具调用施加安全控制,包括 PII 过滤、内容审核、提示注入检测、密钥检测和自定义校验规则。
两步配置:
- Guardrail Config Group:注册护栏提供方的凭据与配置。可列出已有配置组,或创建新组。通过工具调用使用 tfy_guardrail_config_groups_list() / tfy_guardrail_config_groups_create()(创建需人工审批 HITL);直接 API 可用 $TFY_API_SH GET '/api/svc/v1/provider-accounts?type=guardrail-config-group' 与 POST /api/svc/v1/provider-accounts。integrations 每项含 type 与 config,部分内置提供方无需 config,云厂商提供方需凭据。
- Gateway Guardrails Config:创建引用上述提供方并绑定到网关的规则。可列出或创建,创建需 HITL;直接 API 为 GET/POST /api/svc/v1/gateway-guardrails-configs,更新用 PUT .../GUARDRAILS_CONFIG_ID。
规则结构:每条规则含 id、when(target_conditions.models/mcp_servers/tools,subject_conditions.users/teams)、llm_input_guardrails、llm_output_guardrails、mcp_tool_pre_invoke_guardrails、mcp_tool_post_invoke_guardrails。护栏项字段有 provider_ref(格式 <provider-account-id>:integration/guardrail/<provider-type>)、operation(validate 或 mutate)、enforcing_strategy(enforce、audit、enforce_but_ignore_on_error)、priority。
自定义护栏服务器:从官方模板 truefoundry/custom-guardrails-template 出发,在其结构内增改规则,不要从头构建,再按模板部署到自有基础设施,以保持与网关输入输出格式兼容。
常用模式:全模型 PII 检测、以 audit 策略先监控后强制、针对特定 MCP 工具的前后置护栏、按模型名模式限定范围、按用户或团队豁免。
限制与前提:gateway_ref 需通过 ai-gateway 技能获取网关 FQN;主体豁免依赖 access-control;MCP 目标依赖 mcp-servers;配置前可用 status 技能校验凭据。安全提示:带外部 endpoint_url 的提供方会把请求数据发往第三方,注册前确认端点可信,优先使用内置提供方。文档提及支持 23 个提供方,详情见 references/guardrail-providers.md。价格、平台与效果等资料暂未提供。