SuperAPI AI 工具集

architect-llm-selection

智能体与模型

查看项目

更新于 10-16 06:56

技能介绍

用途

该技能用于为 ElevenLabs 智能体选择或推荐 LLM,适用于“这个智能体应该用哪个模型”、区域受限模型、合规模型等问题。它提供一套按顺序收窄候选集的决策流程,每一步只缩小候选范围,后续不再放宽。

主要能力

  • 按区域、合规、能力三个维度筛选模型。
  • 读取智能体当前的 LLM、工作流与工具,再给出建议。
  • 通过 API 应用最终选择。

使用方式

所有操作基于 ConvAI REST API,主机为 https://api.elevenlabs.io,请求头为 xi-api-key: $API_KEY。

第一步:探索智能体

先用 GET /v1/convai/agents/$AGENT_ID?branch_id=$BRANCH_ID 读取当前 LLM、工作流和工具。

第二步:区域门(基础设施层,不可协商)

确定部署拓扑。EU 和印度客户使用隔离部署,模型列表受限,且对所有层级生效。被区域隐藏的模型无法启用,不要提议启用。

  • 美国/默认:完整模型目录,受合规门限制。
  • EU 隔离:受限列表,预览版 Gemini 模型及其他若干模型被隐藏。
  • 印度隔离:限制严格,仅 custom-llm、glm-45-air-fp8、gpt-4o、qwen3-30b-a3b、qwen36-35b-a3b、speech-engine。

限制由部署拓扑决定,不是开关。

第三步:合规授权门(合同限制)

仅当工作区拥有相应授权时相关。无法查看工作区标志,因此不要断言某项授权已激活;安全表述是“你的 CSM 可以为你的工作区确认这一点”。不要提议启用 HIPAA、PCI 或 ZRM,它们需要合同变更。

  • HIPAA 需同时满足三项:企业层级且 force_logging_disabled=true、LLM 属于 HIPAA 合规集合、已签署 BAA(合同文件,无法验证,BAA 问题转销售)。已批准系列包括 Claude 3.5/3.7 Sonnet、Claude 3 Haiku、Claude Haiku 4.5、Claude Opus 4.7、Claude Sonnet 4 / 4.5 / 4.6、custom-llm、Gemini 1.5/2.0/2.5 flash 与 pro 变体、gemini-3.1-flash-lite、speech-engine。列表之外的模型无论层级如何都不符合 HIPAA;预览/待 GA 的 Gemini 模型被排除。
  • PCI 开启时默认拒绝(pci_compliance_required)。仅预先批准的电信提供商、webhook 域名、MCP URL 和集成 ID 可用。新增集成需 CSM 审核;提供支持表单,不要承诺自助。
  • ZRM 禁用音频/转录存储;仅在 force_logging_disabled=true 时生效。Custom LLM 加 ZRM 还需 is_convai_custom_llm_with_zrm_allowed。无 Stripe SKU,属于企业合同的一部分。

第四步:能力匹配

在存活的候选集内推荐,围绕智能体任务权衡三个轴。

  • 延迟:对语音最重要。在 STT 到 LLM 到 TTS 的循环中,LLM 的首 token 时间位于关键路径,是感知延迟的主导因素。实时智能体应偏向通过质量门槛的最快层级。
    • 最低延迟:gemini-3.1-flash-lite / nano / 小型 qwen / *-mini 层级及 speech-engine。
    • 均衡:gemini-3.5-flash、gpt-4o、gpt-5-mini、claude-haiku-4-5。
    • 最高能力、更高延迟:claude-sonnet-4-6、claude-opus-4-7、gpt-5.x、gemini-3.x-pro(在区域/合规允许时)。
  • 智能:仅对真正困难的推理、复杂多工具编排或细微指令遵循保留顶级层级。多数事务型语音智能体(预订、分诊、FAQ、路由)在中层级运行良好且更迅捷。过度配置智能通常以用户会注意到的延迟换取用户不会注意到的质量。
  • 成本:每 token 价格随能力层级陡增。按任务匹配层级;不要在确定性 IVR 流程后放前沿模型。高并发部署中,延迟与成本会叠加。

快速启发式

  • 实时电话/高并发:优先延迟、成本,典型选择 gemini-3.1-flash-lite(超低延迟)或 gemini-3.5-flash。
  • 复杂推理/多工具:优先智能,典型选择 claude-sonnet-4-6、gpt-5.x、claude-opus-4-7。
  • HIPAA 语音智能体:先合规再延迟,典型选择 claude-haiku-4-5、gemini-3.5-flash(均在批准列表内)。
  • 印度部署:区域优先,典型选择 gpt-4o 或 qwen36-35b-a3b(目录很小)。
  • 自定义/自托管模型:控制优先,custom-llm(检查 ZRM 与区域资格)。

应用选择

用 PATCH /v1/convai/agents/$AGENT_ID?branch_id=$BRANCH_ID,请求体 {"conversation_config":{"agent":{"llm":"<model-id>"}}} 设置模型。这是分支范围的,合并后生效。

输出规范

  • 明确说明约束条件(“在 EU 部署中,X 不可用,因此在允许的模型中……”)。
  • 给出一个主要推荐加一个备选,并说明原因(延迟 vs 智能 vs 成本)。
  • 对任何合同限制项,结尾给出路径:授权确认找 CSM,新集成/文档走支持表单,证明与签署 DPA/BAA/子处理者请求见 https://compliance.elevenlabs.io/。
  • 绝不断言某项授权已激活,绝不提议启用合同功能或区域受限模型。

适用场景

  • 为 ElevenLabs 智能体挑选 LLM。
  • 判断某模型在特定区域或合规要求下是否可用。
  • 在延迟、智能、成本之间做权衡建议。

限制

  • 无法查看工作区标志,不能确认授权状态。
  • 不能启用区域隐藏模型或合同类功能。
  • 区域与合规为硬约束,能力推荐不得违反。