SuperAPI AI 工具集

helicone

数据与分析

查看项目

更新于 10-16 02:36

技能介绍

Helicone 是面向 LLM 的可观测性服务,可通过其 API 查询请求日志、追踪成本并分析性能。所有请求需在 Authorization 头中携带 Bearer Token,令牌来自 helicone.ai 的 Settings → API Keys,对应的环境变量为 HELICONE_TOKEN(以 sk-helicone- 开头)。API 基础地址为 https://api.helicone.ai。

主要能力集中在 POST /v1/request/query:支持分页(limit、offset,单次上限 1000)与排序,可按模型(如 contains gpt-4)、时间范围(created_at 的 gte/lte)、user_id 以及自定义属性(properties)过滤,并可聚合统计成本与 token 用量。GET /v1/request/<request-id> 获取单条请求详情,GET /v1/property/query 列出自定义元数据键。

返回字段包括 request_id、model、prompt_tokens、completion_tokens、latency、cost_usd、created_at、user_id、properties、status。常见工作流有按模型审计花费、查找最慢或最贵的请求、按天统计用量,可配合 jq 做客户端分组聚合。

使用要点与限制:cost_usd 是基于公开定价的估算,实际账单可能不同;自定义属性需在代理调用中设置 Helicone-Property-* 头,用户归属需设置 Helicone-User-Id 头;默认存在速率限制,遇到 429 应实现指数退避。排障可运行 zero doctor check-connector --env-name HELICONE_TOKEN,或检查 --url https://api.helicone.ai/v1/request --method GET。文档见 https://docs.helicone.ai/rest/request/get-v1requests。