用途:在已接入 Agent Observability 的 LLM 应用上运行线上实验,把真实流量分流到对照版与实验版,用评估分数、token 用量和成本衡量结果。适用于测试提示词、模型、检索策略或工具集改动,判断其在生产环境是否更好、更省或两者兼有。不适用于基于数据集的离线实验、分析已完成的实验,或把已有离线实验升级为线上实验。
主要能力:创建含 control=false、treatment=true 两个变体的布尔功能开关;把开关与实验关联;创建并挂载指标;启动实验。主指标为 Agent Observability 评估分数(仅数值型分数可作实验指标),聚合为分数均值,并需指定期望变化方向(METRIC_INCREASES 或 METRIC_DECREASES)。次要指标为平均 trace token(@trace.total_tokens)与平均 trace 成本(@trace.estimated_total_cost),均期望下降,来源为 LLMOBS / LLMOBS_SPANS,按 @ml_app 过滤。
使用方式:先做只读探查(确认 llmobs、experiments、feature-flags 能力,检查应用与部署配置,列出环境、已有开关与指标),再一次性提交完整方案供确认,随后依次创建开关、改造应用、创建并关联实验、创建并挂载指标。应用需对每个 subject 评估开关、执行对应行为,并在评估分数与根 span 上打上相同的 subject_identifier 标签(该标签在摄取时转为 @usr.id,是实验关联曝光的键)。代码必须部署后实验才会收集数据,且应用 DD_ENV 需与实验环境一致。
限制:线上实验功能可能需组织开通,若提示不可用应联系 Datadog 代表而非重试。生产环境的部分操作需在 Datadog UI 完成。指标挂载不可与其他指标编辑并行,以免互相覆盖。环境 ID、开关 ID、指标 ID、变体键均须取自服务器,不可猜测。实验链接到唯一环境。资料未提供具体价格、收费或效果数据。