用途:为 Perplexity Sonar API 提供生产级可靠性模式。由于 Perplexity 每次请求都执行实时网络搜索,响应时间天然波动,主要挑战是搜索卡顿、引用断裂和不同模型层级的可用性差异。
主要能力:
- 模型分层降级:按首选模型(如 sonar-pro)与备用模型(sonar)组成降级链,401/402 等鉴权或计费错误不重试,直接抛出。
- 熔断器:失败计数达到阈值(默认 5 次)后打开,默认 60 秒后进入半开状态,打开期间走降级回调,防止级联失败。
- 流式超时保护:按 chunk 检测停滞,默认 10 秒无数据即产出 timeout 事件并结束。
- 缓存可靠性层:用 LRU 缓存(默认 500 条、24 小时)在实时调用失败时返回陈旧缓存,避免整体不可用。
- 引用 URL 校验:对前 5 条引用发起带 5 秒超时的 HEAD 请求,返回状态码与有效性。
使用方式:需配置 Perplexity API 密钥、缓存层(Redis 或内存)并理解搜索延迟波动。通过环境变量 PERPLEXITY_API_KEY 初始化 OpenAI 客户端(baseURL 为 https://api.perplexity.ai),再组合上述函数使用。
适用场景:需要在线搜索检索的生产问答或研究类应用。
限制:需要额外的缓存基础设施;引用校验仅检查 HTTP 状态,不验证内容准确性;模型降级会降低回答质量或长度(示例中 max_tokens 从 2048 降至 512);文档未提供价格、性能保证或平台细节。