SuperAPI AI 工具集

evalscope-docs

测试与质量

查看项目

更新于 10-16 07:17

技能介绍

EvalScope 是 ModelScope 提供的 LLM/VLM 评测框架,覆盖基准评测、性能压测、Arena 对比与可视化。该技能为 EvalScope 的文档集,使用时应先在 references/ 目录中检索详细说明,其中 references/benchmarks/ 含 153 个基准文件,包含指标与用法示例。

用途:编写与运行模型评测、查询支持的基准(LLM、VLM、Agent、AIGC/T2I)、了解后端与压测参数。

主要能力:CLI 与 Python API 两种方式;支持本地模型和 OpenAI 兼容 API;支持性能压力测试;提供 Arena 模式、沙箱评测、服务模式、自定义数据集与自定义基准;包含 OpenCompass、VLMEvalKit、RAGEval(RAGAS、MTEB、CLIP)等后端文档;另有 Qwen3、DeepSeek-R1、QwQ、GPT、VLM、T2I 等最佳实践与第三方集成(SWE-Bench、BFCL、ToolBench 等)。

使用方式:安装 pip install evalscope。命令行评测示例:evalscope eval --model Qwen/Qwen2.5-0.5B-Instruct --datasets gsm8k arc --limit 5。评测 OpenAI 兼容接口需指定 --eval-type openai_api 与 --api-url。压测示例:evalscope perf --model Qwen/Qwen2.5-0.5B-Instruct --url http://127.0.0.1:8801/v1。Python 中使用 from evalscope import run_task, TaskConfig 构造 TaskConfig(模型、数据集、limit、generation_config)后调用 run_task。

适用场景:模型能力对比、基准复现、API 服务性能评估、自定义数据集/基准扩展。

限制:当前资料未提供计费、价格与平台支持范围等信息;具体参数含义、数据集列表与指标需查阅对应 references 文件,本简介不保证覆盖全部细节。