SuperAPI AI 工具集

huggingface-community-evals

测试与质量

查看项目

更新于 10-16 03:37

技能介绍

用途:在本地硬件上对 Hugging Face Hub 上的模型运行评估,覆盖本地推理下的 inspect-ai 与 lighteval,以及后端的比较与选择。不涉及 Hugging Face Jobs 编排、模型卡或 model-index 编辑、README 表格提取、Artificial Analysis 导入、.eval_results 生成或发布、PR 创建或 community-evals 自动化。

主要能力:按场景选择脚本:本地 inspect-ai 评估 Hub 模型走 scripts/inspect_eval_uv.py;本地 GPU 的 inspect-ai 评估(vllm 或 Transformers)走 scripts/inspect_vllm_uv.py;本地 GPU 的 lighteval 评估(vllm 或 accelerate)走 scripts/lighteval_vllm_uv.py;更多命令模式见 examples/USAGE_EXAMPLES.md。

使用方式:建议使用 uv run,gated 或私有模型需设置 HF_TOKEN,本地 GPU 运行前需确认 uv --version、printenv HF_TOKEN 与 nvidia-smi。核心流程:先选评估框架(inspect-ai 用于任务控制,lighteval 用于 leaderboard 风格任务串),再选推理后端(优先 vllm,回退 hf 或 accelerate),先做冒烟测试(inspect-ai 加 --limit 10,lighteval 加 --max-samples 10),通过后再放大规模。常用命令如:uv run scripts/inspect_eval_uv.py --model meta-llama/Llama-3.2-1B --task mmlu --limit 20;uv run scripts/inspect_vllm_uv.py --model microsoft/phi-2 --task mmlu --backend hf --trust-remote-code --limit 20;uv run scripts/lighteval_vllm_uv.py --model meta-llama/Llama-3.2-3B-Instruct --tasks "leaderboard|mmlu|5,leaderboard|gsm8k|5" --max-samples 20 --use-chat-template。lighteval 任务串格式为 suite|task|num_fewshot,可用逗号分隔多个任务。

适用场景与限制:适合需要本地 GPU 评估、控制任务与后端、做低成本冒烟测试的用户。本地硬件建议:<3B 用消费级 GPU 或 Apple Silicon;3B–13B 用更强的本地 GPU;13B+ 用高显存本地 GPU 或 Hugging Face Jobs。该技能有意止步于本地执行与后端选择;若需远程执行、选择远程硬件、传递密钥、定时运行或管理作业,应把脚本与参数提交至 Hugging Face Jobs(hf jobs uv run 或 hf_jobs())。若需发布结果到 community-evals 工作流,生成评估运行后应交由项目自身的 community-evals 工作流处理。排障:CUDA 或 vLLM OOM 可减小 --batch-size、降低 --gpu-memory-utilization、改用更小模型做冒烟测试或改提交远程;vllm 不支持模型时切换 --backend hf 或 --backend accelerate;gated 或私有仓库失败需检查 HF_TOKEN;需要自定义模型代码时加 --trust-remote-code。