用途:为 TrueFoundry AI Gateway 的 LLM 输入/输出及 MCP 工具调用添加内容安全护栏,覆盖 PII 过滤、内容审核、提示注入检测、密钥检测和自定义校验规则。
主要能力:通过“护栏配置组”注册护栏提供方凭据与配置,再通过“网关护栏配置”创建规则并绑定到网关。每条规则含 id、when 条件(target_conditions 可指定模型、MCP 服务器、工具;subject_conditions 可指定用户、团队)、以及 llm_input_guardrails、llm_output_guardrails、mcp_tool_pre_invoke_guardrails、mcp_tool_post_invoke_guardrails 四类护栏。护栏条目含 provider_ref(格式 <provider-account-id>:integration/guardrail/<provider-type>)、operation(validate 或 mutate)、enforcing_strategy(enforce、audit、enforce_but_ignore_on_error)和 priority。
使用方式:可用工具调用或直接 API。直接 API 前设置 TFY_API_SH 指向该技能的 scripts/tfy-api.sh。列出配置组:$TFY_API_SH GET '/api/svc/v1/provider-accounts?type=guardrail-config-group';创建配置组:$TFY_API_SH POST /api/svc/v1/provider-accounts;列出网关护栏:$TFY_API_SH GET /api/svc/v1/gateway-guardrails-configs;创建用 POST /api/svc/v1/gateway-guardrails-configs;更新用 PUT /api/svc/v1/gateway-guardrails-configs/GUARDRAILS_CONFIG_ID。gateway_ref 需用 ai-gateway 技能获取网关 FQN。部分提供方需云凭据,tfy-pii、tfy-content-moderation、tfy-prompt-injection 为内置。
部署自定义护栏服务器:从官方仓库 truefoundry/custom-guardrails-template 克隆后在其结构上增改,不要从零构建,再按模板部署到自有基础设施。
适用场景:为网关批量模型加 PII 过滤;以 audit 模式先监控再强制;针对特定 MCP 工具做调用前后校验;按模型或用户/团队做差异化或豁免规则。
限制:使用外部 endpoint_url 的提供方(如 custom、opa、fiddler、palo-alto-prisma-airs)会把请求数据发往第三方,需确认可信并优先用内置提供方。创建/更新通过工具调用需人工审批(HITL)。常见错误包括配置组不存在、提供方类型无效、网关未找到、规则 ID 重复、缺少凭据、权限不足。凭据格式、价格与具体效果暂未提供。