用途:校验数据集格式与质量,判断其是否可用于 SageMaker 模型微调(SFT、DPO、RLVR)或模型评估。适用于用户询问“我的数据集可以吗”“评估我的数据”等场景。
主要能力:定位数据集文件(本地路径或 S3 URI),检查文件类型与读取权限;根据微调策略和基座模型确定所需格式;运行格式检测脚本给出校验结果;区分训练数据集与评估数据集的不同格式要求;对 Custom Scorer 评估数据集按对应 schema 校验;提示数据集是否需上传至与训练任务同区域的 S3 桶。
使用方式:先确认 SDK 环境(版本、区域、执行角色),否则先启用 sdk-getting-started 技能。确定策略与模型(可从上下文获取,或启用 model-selection、finetuning-technique 技能)。校验评估数据集时无需模型与策略。运行:python scripts/format_detector.py local_path/to/dataset,将完整路径作为参数直接传入,不要传模型和策略参数,不要从 S3 下载数据,也不要创建本地副本。最后根据输出与已知策略、模型比对并汇总结果。
适用场景:微调前数据准备检查、评估数据集格式确认、Custom Scorer(Prime Math、Prime Code、Custom Lambda)数据集校验。
限制:仅适用于符合 Amazon SageMaker AI 开发者指南格式的文件;训练数据集须匹配 references/strategy_data_requirements.md 中对应策略要求;评估数据集须匹配 SageMaker 评估数据集格式之一;Custom Scorer 需读取 references/custom-scorer-evaluation-dataset-formats.md 校验。若格式不符,建议使用 dataset-transformation 技能转换并等待用户确认。具体收费、价格、平台支持范围等资料暂未提供。