SuperAPI AI 工具集

Traccia

Traccia 是一个面向生产级 AI 系统的 AI 智能体控制平面,提供可观测性、评估、治理与运行时策略执行能力。它通过一个 OpenTelemetry 原生的 SDK 接入 LangChain、CrewAI、OpenAI Agents SDK、AutoGen、LlamaIndex 等框架,用统一仪表盘集中管理所有智能体:查看端到端追踪、2,500+ 模型的成本与 token 归因、PII 与敏感数据检测、提示词注册与实验评估,以及分层的策略护栏监控与硬阻断。其特点是能够在智能体执行中途强制拦截(如超支、死循环、PII 泄露),成本统计不受采样率影响,并提供映射 EU AI Act 的合规证据导出。适合需要跨框架统一观测、治理与合规审计的 AI 团队。

访问官网

工具介绍

Traccia 是一个 AI 智能体控制平面(AI agent control plane),用于对生产环境中的 AI 系统进行可观测、评估、治理和运行时策略执行。它的核心主张是:让智能体做更多事,同时不失去控制。

一、用途与定位 Traccia 面向在生产中运行 AI 智能体的团队,解决多个工具割裂的问题。官方描述指出,团队不必再在 LangSmith、自建 Grafana 仪表盘和电子表格之间来回切换,Traccia 为所有 AI 智能体提供单一视图,且不限于某个框架。它聚焦四个动作:观察(Observe)、评估(Evaluate)、治理(Govern)、审计(Audit)。

二、主要能力

  1. 统一智能体注册表:跨 LangChain、CrewAI 和 OpenAI Agents SDK 的单一事实来源,跟踪版本、健康状态、环境和归属,且无需修改代码(zero code changes)。
  2. 端到端追踪:基于 OpenTelemetry 原生,覆盖每一次 LLM 调用、工具使用和智能体决策;支持 LangChain、CrewAI、OpenAI Agents SDK、AutoGen 和 LlamaIndex。
  3. 策略监控与执行:三层护栏检测,覆盖显式注解、提供商原生信号(OpenAI、Anthropic、Google)和启发式。硬阻断可在智能体执行中途停止,而非事后处理。当原生 OpenAI、Anthropic 或 Gemini 客户端指向 Gateway 时,Spend Cap(支出上限)和 Model Boundary(模型边界)同样生效。
  4. 成本与 Token 归因:覆盖 2,500+ 模型的准确成本;在 span 结束时本地计算,独立于采样。即使追踪采样率只有 10%,token 与成本总计仍保持 100% 准确。
  5. PII 与敏感数据检测:在智能体追踪进入日志之前标记 PII 暴露(如患者姓名、凭证、用户数据);可注解违规、执行硬阻断,自动保持合规。
  6. 提示词注册表与 Playground:命名提示词带不可变版本和受保护的生产标签;可并排比较措辞与模型,查看延迟、token 和成本,然后从 SDK 加载线上版本,使每条追踪都能回溯到实际发布的内容。
  7. 数据集、评分器与实验:整理测试用例,使用内置检查、LLM-as-judge 或自定义评分器打分,保存不可变的实验报告;比较基线 vs 候选,带证据晋升。
  8. 内置合规证据:开箱即用、映射条款的 EU AI Act 证据——Art. 12 GovernanceEvent spans、Art. 14 人工审查、SDK 中的 Art. 50 disclosure()。可选择启用 HIPAA Controls,用于具备 PHI 能力的智能体清单、保障草案和带标签的导出。一键导出证据包。

三、使用方式 Traccia 提供一个 SDK,覆盖上述多种框架。根据官方给出的示例,其初始化方式为 traccia.init(),一次初始化调用即可追踪、计算成本并治理每个智能体。对于 LLM,OpenAI 与 Anthropic 包含自动 token 与成本跟踪;任何基于 HTTP 的提供商通过 OpenTelemetry 追踪,并持续增加更深覆盖。安装命令为 pip install traccia。

官方给出两种起步路径:

  • 本地使用 SDK:将追踪导出到自己的可观测栈,兼容 Jaeger、Grafana Tempo、Zipkin、SigNoz 及任何 OpenTelemetry 兼容后端。无需账号、标准 OTLP 导出、完全 SDK 控制。
  • 使用 Traccia 平台:访问完整 Traccia 仪表盘,包含以智能体优先的治理、成本归因、策略护栏和团队协作。平台侧能力包括策略护栏、成本归因、提示词注册表与评估。

四、适用场景与限制 适用场景:需要跨多个框架统一观测与治理 AI 智能体的团队;需要控制 LLM 成本、防止智能体跑飞或死循环、防止 PII 泄露的组织;需要生成 EU AI Act / HIPAA 合规证据、进行审计追踪的企业;需要提示词版本管理与 A/B 实验评估的团队。 限制与注意:官方当前明确 SOC 2 Type II 认证处于 in progress 状态;OIDC/SAML SSO 在 enterprise roadmap 上;ML PII 检测标注为 planned(SDK 当前提供可选基于模式的脱敏,通过 init(redact_pii=True) 在导出前遮罩)。

关于定价、具体支持平台或语言的更多细节,当前资料暂未提供。