SuperAPI AI 工具集

model-selection

智能体与模型

查看项目

更新于 10-15 19:58

技能介绍

用途:引导用户根据自身用例选择基础模型,通过查询 SageMaker Hub 获取可用模型列表并确认选择。

适用场景:用户询问该用哪个模型;想选择或更换基础模型;提到模型名称或系列(如 Llama、Mistral、Nova),此时仍需解析出确切的 Hub 模型 ID;想在决定是否微调前评估基础模型。

前提条件:需存在 use_case_spec.md 文件;若不存在,先激活 use-case-specification 技能生成。

工作流程:

  1. 检查区域:运行 python -c "import boto3; print(boto3.session.Session().region_name)"。若返回 None 则停止,提示用户通过 export AWS_DEFAULT_REGION=us-west-2 或 aws configure 设置区域;否则记录 REGION 并继续。
  2. 发现 Hub:使用 aws___call_aws 工具调用 SageMaker ListHubs API 列出区域内所有 Hub,过滤掉 HubDescription 含 "AI Registry" 的 Hub(不含 JumpStart 模型)。若仅剩一个合格 Hub 则自动使用;若有多个则让用户选择并记录。
  3. 选择基础模型:运行 python model-selection/scripts/get_model_names.py <hub-name> 获取全部模型名称,结合 references/model-licenses.md 以 <model name> - <license> 形式展示许可证。若已知用户想用的模型,确认其在列表中并展示许可证;否则按 references/model-selection.md 协助选择。注意不要推荐列表中不存在的模型。
  4. 确认选择:向用户展示所选基础模型摘要,并询问是否继续。

参考文件:references/model-selection.md 提供模型选择说明与基准描述;references/model-licenses.md 提供模型许可证信息。

限制:依赖 AWS 环境与 SageMaker Hub;需先有 use_case_spec.md;区域未设置时无法继续。