SuperAPI AI 工具集

kermt-infer

通用与其它

查看项目

更新于 10-16 02:33

技能介绍

kermt-infer 是 KERMT 工作流中的推理编排技能,用于在仅含 SMILES 的 CSV 上,通过微调后的 KERMT checkpoint 生成预测。它串联校验 checkpoint、校验 CSV、准备数据、阻塞式启动推理并返回预测结果 CSV 等步骤。

用途:对 SMILES-only CSV 运行推理预测;会校验 checkpoint 是否带任务 FFN 头,若是预训练 ckpt 则拒绝,并指向 kermt-finetune。输入要求:--ckpt 为微调 checkpoint,--csv 首列为 smiles,其余列忽略;可选 --batch-size、--seed、--gpus 0、--from-prepare。

主要能力:容器与系统预检、checkpoint 校验、数据校验、prepare_data(rdkit_2d_normalized 特征)、阻塞式运行推理,并返回 results。硬件要求:单 GPU(不支持多 GPU),默认 batch_size 32 时显存 ≥ 4 GB,每次运行磁盘占用几百 MB,需支持 CUDA 12.6。

使用方式:先执行 check_system,计算 RUN_DIR,依次校验 ckpt、校验 CSV、准备数据,最后用 kermt_container.sh 启动 run_inference.py。成功后会输出预测 CSV、run.json 与日志。重要规则:不修改用户 ckpt,架构取自 ckpt 而非 CLI,仅单 GPU,并在 run.json 中记录所有默认填充参数。

限制:不支持多 GPU 推理;预训练 ckpt 不可直接推理;--gpus 只能传单个 id;若绕过 prepare_data 直接用 main.py,可能出现非数值列转换错误。run.json 的 cmd_replay 可复现同参数运行,若 ok_to_replay 为 false 需先 checkout 对应 commit。