SuperAPI AI 工具集

apastra-eval

智能体与模型

查看项目

更新于 10-15 20:06

技能介绍

用途:在本地对提示词进行评测,由 IDE 智能体充当执行载体,无需外部工具、API 或 CI。适用于评估提示词、运行快速评测文件、与基线对比检测回归、获取评分卡。

主要能力:支持两种模式。套件模式(Suite mode)走完整的 spec/dataset/evaluator/suite 流程,适合结构化、可复用的测试套件;快速评测模式(Quick eval mode)使用 promptops/evals/ 下的单个 YAML 文件,合并提示词、用例与内联断言,适合冒烟测试和快速迭代。评测流程为:套件→数据集(用例)→逐用例渲染模板、调用模型、评分、记录结果→聚合成评分卡→与基线对比→生成回归报告。

使用方式:套件模式需读取 promptops/suites/<suite-id>.yaml,加载数据集(promptops/datasets/<id>.jsonl)、评估器(promptops/evaluators/<id>.yaml)和提示词 spec(promptops/prompts/<id>.yaml),逐用例渲染 {{variable}} 占位符、调用模型、按评估器与内联断言评分,聚合归一化指标,检查阈值,与 derived-index/baselines/<suite-id>.json 基线及 promptops/policies/regression.yaml 回归策略对比,最后将结果写入 promptops/runs/<run-id>/(scorecard.json、cases.jsonl、run_manifest.json)。快速评测模式读取 promptops/evals/<eval-id>.yaml,逐用例渲染、调用、应用断言并报告通过率。

断言类型:确定性断言包括 equals、contains、icontains、contains-any、contains-all、regex、starts-with、is-json、contains-json、is-valid-json-schema;模型辅助断言包括 similar、llm-rubric、factuality、answer-relevance;性能断言包括 latency、cost。任意断言可加 not- 前缀取反。

适用场景与限制:适合提示词回归检测、冒烟测试、结构化测试套件。资料未提供具体收费、价格、平台支持范围等信息。评测依赖本地文件结构与 IDE 智能体环境,harness 标识需记录执行环境(如 claude-code、cursor、api 等)。