SuperAPI AI 工具集

architect-secure-for-production

智能体与模型

查看项目

更新于 10-16 05:07

技能介绍

用途:当客户询问如何让智能体安全、合规或达到生产可用状态,或如何低风险上线时,按其当前所处阶段引导其走完 ElevenLabs 的分层安全模型。核心理念是在上线前、运行中、每次对话后都设置防护。商业问题(认证覆盖范围、保险资格、Custom 护栏定价)应转交客户账户团队,不要凭记忆作答。

多数设置位于智能体的 Security、Advanced、Privacy 配置中,可通过 ConvAI REST API 查看或设置(host https://api.elevenlabs.io,header xi-api-key: $API_KEY),使用 GET/PATCH /v1/convai/agents/$AGENT_ID?branch_id=$BRANCH_ID,建议先读取当前配置再给建议。

阶段一(身份验证):每个智能体只配一种方式。Signed URLs 适合客户端应用,由服务端用 API key 申请临时签名 WebSocket URL,十五分钟过期,避免密钥暴露到客户端;Allowlists 按主机名精确匹配,最多十个,子域需单独添加,二者不要同时启用。若要限定具体用户,需在自有应用中先鉴权。

阶段二(护栏):系统提示加固加 Focus 护栏为基础,关键规则写入 # Guardrails 标题下;Manipulation 护栏校验用户输入,识别提示注入与指令覆盖;Content 与 Custom 护栏在回复发出前独立校验。关键规则同时放入系统提示与 Custom 护栏形成纵深防御。权衡:流式模式无额外延迟但可能先输出少量内容,适合语音;阻塞模式等待校验约 200-500ms,是唯一支持重试的退出策略,适合文本。Focus/Manipulation/Content 已包含,Custom 按响应产生 LLM 用量成本。护栏目前为 alpha,建议持续验证并查看日志。

阶段三(测试):支持单轮场景测试、工具调用测试(精确匹配、正则或 LLM 评估,适用于转账等高风险动作)、带工具 mock 的多轮模拟测试。建议把真实失败对话转为测试,显式测试提示注入,并用 repeat_count 做 3x/5x/15x 概率测试看通过率后再上线变更,接入 CI/CD。REST 方式:POST /v1/convai/agent-testing/create 创建,POST /v1/convai/agents/$AGENT_ID/testing/attach-test 关联,POST /v1/convai/agents/$AGENT_ID/run-tests 运行(支持 repeat_count)。

阶段四(灰度发布):首次上线或推送新行为时,用 feature flag 分阶段放量(小范围、扩大、全量),每一步观察监控与护栏日志,flag 可即时回滚。Versioning 与 Experiments(生产流量 A/B)支持用数据对比新旧配置;Branches 与流量分配可通过 API 逐步切换流量。不要一次性对全量流量开启。

阶段五(实时监控,企业版):高风险场景可开启,通过 WebSocket 推送实时对话事件,运营人员可在通话中发送指令:结束通话、转接号码、注入上下文更新,或在聊天中触发人工接管。需 ElevenLabs Agents Write 权限与 EDITOR 工作区权限。限制:仅文本与元数据(无音频),约缓存最近 100 条事件,只能在对话开始后连接。

阶段六(隐私): Retention 控制转录与音频保存时长(最低 0 天即立即删除);Audio saving 决定是否保留录音;Conversation history redaction(企业版)从存储转录中去除敏感实体(占位符)、音频中打哔声;Zero Retention Mode(企业版)用于最严格场景。HIPAA/GDPR 等监管保留期限应引导客户查阅最新文档并咨询其合规/法务团队,不要断言具体要求。

引导方式:按客户痛点定位阶段——刚建好问如何安全则按六阶段顺序;担心说错话则聚焦护栏与测试;问如何安全上线则聚焦灰度与监控。每步说明配置位置,商业问题转交账户团队。