SuperAPI AI 工具集

helicone-observability

部署与运维

查看项目

更新于 10-16 09:51

技能介绍

用途:将 LLM API 调用经由 Helicone 代理转发,实现成本跟踪、延迟监控和按用户归因,适用于多产品共用同一账户的场景。

主要能力:Helicone 是透明代理,只需修改各提供商的 baseURL 并添加请求头,无需锁定 SDK。账户仅有一个仪表盘,通过自定义属性做分段,而非独立项目。必备属性包括 Helicone-Property-Product(标识产品/仓库)、Helicone-Property-Environment(部署阶段)、Helicone-Property-Feature(触发类型)与 Helicone-User-Id(按用户归因);可选属性有 Helicone-Session-Id、Helicone-Session-Path、Helicone-Property-Model、Helicone-Property-TaxYear。可在仪表盘按产品、用户、功能、环境筛选并查询单次调用成本。

使用方式:无需额外安装包,通过 @ai-sdk/anthropic 的 baseURL 与 headers 接入,例如 baseURL 为 https://anthropic.helicone.ai/v1,并设置 Helicone-Auth 为 Bearer ${process.env.HELICONE_API_KEY}。动态属性放在 streamText/generateText 的 headers 中。OpenAI 与 Gemini 也有对应网关地址。可用 Helicone-Cache-Enabled: true 与 Cache-Control 开启缓存,并用 Helicone-Cache-Seed 按用户隔离缓存。需在 .env.local 和部署环境配置 HELICONE_API_KEY。

限制:价格分 Free(1 万次/月,保留 1 个月,$0)、Growth($20/座/月,保留 3 个月)与自托管(基础设施成本)。避免只设 Helicone-Auth 不打标、在客户端使用 Helicone-Property-*(会泄露密钥)、遗漏 Product 属性、对非确定性对话开启缓存或硬编码密钥等反模式。资料未提供更多使用步骤与效果验证细节。