用途:指导维护 MassGen 的模型注册表,涉及两个文件——massgen/backend/capabilities.py(模型列表、能力、发布日期、默认模型、后端校验、配置生成与文档生成)和 massgen/token_manager/token_manager.py(LiteLLM 未收录模型的定价与上下文窗口、成本估算、token 计数与上下文管理)。
主要能力:规范新增模型、更新定价、上下文窗口与模型能力的操作步骤;给出信息采集来源(发布日期、上下文窗口、定价、能力、精确模型名);说明定价解析顺序为 LiteLLM 数据库(按需拉取、缓存 1 小时)、硬编码 PROVIDER_PRICING 回退、模式匹配启发式;仅在模型不在 LiteLLM 数据库、LiteLLM 定价不正确或过时、模型为组织内部自定义时才更新 PROVIDER_PRICING。
必要用法:新增模型先在 capabilities.py 的 models 与 model_release_dates 添加(最新在前),确认是否需改 token_manager.py;若需补充则写入 PROVIDER_PRICING,供应商名使用 "OpenAI"、"Anthropic"、"Google"、"xAI"。验证命令:uv run pytest massgen/tests/test_backend_capabilities.py -v;uv run pytest massgen/tests/test_token_manager.py -v;massgen --generate-config ./test.yaml --config-backend openai --config-model new-model;文档生成 uv run python docs/scripts/generate_backend_tables.py 与 cd docs && make html。
限制与注意:模型名需与官方 API 大小写一致;token_manager.py 定价统一为每 1K token;按倒序排列;不确定信息需注明;更新后需运行测试。具体当前模型清单与价格数值随资料给出但可能随时间变化,其余细节以实际操作与官方来源核对为准。