SuperAPI AI 工具集

agent-evaluation

智能体与模型

查看项目

更新于 10-16 01:12

技能介绍

用途:在构建或修改智能体前先定义质量,用于比较提示词、模型、工具、记忆策略或编排模式,把生产失败转化为回归用例,并建立可重复的发布门槛或人工复核计划。

输入:智能体目标、用户、支持任务、不可接受结果、当前基线、执行环境、可用的追踪记录和评估预算;输入缺失时需说明假设。

输出契约:评估简报(范围、风险、假设、冻结的系统版本);数据集清单(来源、类别、划分、防污染控制);评分规范(评分标准、评分器、阈值、平局规则);可复现运行设置、汇总结果、不确定性和基线差异;失败分类、代表性案例、证据局限,以及面向发布负责人的决策备忘录。

工作流:定义被测单元及评估要支撑的决策,区分模型质量与工具、检索、策略、基础设施失败;把用户目标与风险转为可观测标准;用真实分布构建代表性案例,并加入边界、长尾、畸形输入、工具失败和对抗性案例,隔离留出集;选择最客观可靠的评分器,结构化事实优先确定性检查,语义质量用受评分标准约束的模型评分器,高影响或有争议案例用盲审人工复核;冻结提示词、模型版本、工具、数据快照、种子、重试和超时,在等价条件下运行候选与基线,对随机案例重复;先看个案失败再信汇总,按任务、风险、语言、工具和用户群切片;设置发布门槛,结合关键案例最低表现、相对基线不退化和运行限制,样本不足标注为不确定;把失败的类生产案例保存为回归固定件且不暴露隐私数据。

脚本:可用 python3 scripts/aggregate_results.py results.jsonl --score-min 0 --score-max 1 --require-passed 校验身份与声明的分数范围并生成描述性摘要;记录使用 old/new 标签时可加 --baseline old --candidate new;加 --output summary.json 进行原子写入,目标须为新路径或常规文件,且不得通过拼写、解析、符号链接或硬链接指向输入。该脚本报告观察、缺失与总通过率分母及近似不确定性,但不认证安全、代表性、显著性。

安全与权限:未经授权和批准的留存政策,不要将私有提示词、客户数据、凭证或专有输出发送给外部评分器;未经明确许可,不要对生产系统运行评估、消耗付费 API 预算或触发改变状态的工具;医疗、法律、金融、雇佣、安全或访问控制决策需合格人工复核;评分器分数是证据而非真值。

限制:资料未提供具体支持平台、收费或价格信息。