TraceRoot 是一个开源的 AI 智能体改进平台,旨在帮助开发者将生产环境中的智能体失败转化为可测试的改进。它由 Y Combinator 支持,核心思路是:智能体通过了测试,但生产环境会发现差距——错误答案可能看起来像成功运行,工具循环浪费时间和令牌,提示和模型更改引入回归,而手动抽查难以发现。TraceRoot 通过可观测性、生产监控和评估来检测这些失败,并利用编码智能体将其转化为修复。
主要能力包括:
- 追踪每次模型调用、工具调用和响应,记录输入、输出、延迟和成本。
- 定义良好行为,自动标记未达标的生产运行。
- 将评估输出大规模聚类为改进信号。后台编码智能体在 Daytona 沙箱中调查追踪和连接的 GitHub 代码,推荐具体到提交、文件和行的更改。
- 针对数据集运行评估,比较版本以衡量改进并捕获回归。
- 通过 Slack 接收警报,然后使用编码智能体和离线评估应用并验证更改。
使用方式:
- 通过 npm 安装 TraceRoot CLI:npm install -g traceroot-cli,然后运行 traceroot login。
- 提供 Python 和 JavaScript/TypeScript SDK,支持 OpenTelemetry 兼容的追踪,并集成 LangGraph、Vercel AI SDK、CrewAI 等框架。
- 可以从应用程序发送追踪开始,然后根据需要添加检测器和评估。
- 支持 TraceRoot Cloud 或使用 Docker 自托管。代码在 ee 目录之外的部分采用 Apache 2.0 许可,企业目录使用单独的企业许可。
适用场景:
- 适用于需要监控和改进生产环境中 AI 智能体性能的团队。
- 适合希望将生产失败转化为可测试改进的开发者。
- 适用于使用 Python 或 JS/TS 构建智能体,并需要可观测性和评估能力的项目。
限制与说明:
- 免费计划包含每月 5 万事件、15 天保留、每月 30 次聊天运行、30 次 RCA 运行、100 次检测器运行,支持 Slack 警报和 BYOK 或托管 LLM。
- 付费计划提供更多事件、更长保留和更高限额,具体价格和功能以官方定价页面为准。
- 平台支持自带模型 API 密钥或使用托管模型。
- 企业级安全,数据保护符合行业领先标准。
- 具体集成细节和最新功能请参考官方文档。