用途:在 AMD ROCm 平台上完成大语言模型(LLM)的端到端精度评测,属于 ROCm 专用能力。主要能力与配套:提供 Docker 容器方式搭建环境,也支持主机(无 Docker)运行;推理服务侧可搭配 vLLM、SGLang、ATOM;评测侧使用 lm-eval、lighteval 等评测框架。使用方式:按资料说明,需阅读并遵循 .claude/skills-impl/l1-atomic/torch/quark-torch-llm-eval/SKILL.md 中的指令执行,具体安装命令、参数与操作步骤以该文件为准,此处暂未提供。适用场景:需要在 ROCm 环境中验证模型精度、对比推理后端表现的评测工作。限制:仅支持 ROCm,不适用于其他加速平台;其余如支持模型范围、依赖版本、硬件要求、耗时与结果格式等细节暂未提供。
quark-torch-llm-eval
测试与质量
更新于 10-16 06:17