Helicone 是面向 AI 工程师的开源 LLM 可观测性平台与 AI 网关,由 YC W23 支持。其核心用途是帮助开发者记录、监控、调试和实验 AI 应用,同时通过统一网关简化多模型访问。
主要能力:
- AI 网关:通过一个 API 密钥访问 100+ AI 模型,兼容 OpenAI API,支持智能路由与自动回退。
- 快速集成:一行代码即可记录来自 OpenAI、Anthropic、LangChain、Gemini、Vercel AI SDK 等的请求。
- 观测:检查并调试代理、聊天机器人、文档处理管道等的追踪(traces)与会话(sessions)。
- 分析:跟踪成本、延迟、质量等指标,可一行代码导出到 PostHog 以构建自定义仪表板。
- Playground:在 UI 中快速测试和迭代提示词、会话与追踪。
- 提示词管理:利用生产数据对提示词进行版本控制,并通过 AI 网关部署提示词而无需更改代码,提示词始终由用户掌控、可随时访问。
- 微调:与 OpenPipe 或 Autonomi 等微调合作伙伴进行微调(更多即将推出)。
- 企业就绪:符合 SOC 2 和 GDPR 要求。
- 免费额度:每月提供 10k 请求的免费层,无需信用卡。
使用方式: 通过注册获取 API 密钥并在 helicone.ai/credits 添加额度。然后在代码中更新 baseURL 并添加 API 密钥。示例: import OpenAI from "openai"; const client = new OpenAI({ baseURL: "https://ai-gateway.helicone.ai", apiKey: process.env.HELICONE_API_KEY }); const response = await client.chat.completions.create({ model: "gpt-4o-mini", messages: [{ role: "user", content: "Hello!" }] }); 支持模型包括 claude-sonnet-4、gemini-2.0-flash 或来自 https://www.helicone.ai/models 的任意模型。设置完成后可在 Helicone 查看日志。
自托管: Helicone 易于自托管和更新。本地启动可使用 docker-compose 文件。企业工作负载可使用生产级 Helm chart,需联系 enterprise@helicone.ai 获取。不建议手动部署,请使用 Docker 或 Helm。Helicone 由五个服务组成:Web(前端平台,NextJS)、Worker(代理日志记录,Cloudflare Workers)、Jawn(用于收集日志的专用服务器,Express + Tsoa)、Supabase(应用数据库和认证)、ClickHouse(分析数据库)、Minio(日志对象存储)。
推理提供商: 集成列表可能过时,可在文档中查看最新集成;若未找到,可联系 help@helicone.ai 请求新集成。
适用场景: 适用于需要监控和调试 AI 应用的 AI 工程师,以及希望通过统一网关访问多个模型、管理提示词版本、分析成本与延迟等指标的团队。
限制: 资料未提供具体定价、付费计划价格或除免费额度外的收费细节。手动部署不推荐。集成列表可能过时,需以文档为准。