SuperAPI AI 工具集

update-model

部署与运维

查看项目

更新于 10-15 20:06

技能介绍

用途:在运行中的 LiteLLM 代理上修改已有模型的配置,例如轮换 API key、更换 API base、调整 Azure 的 api_version 或底层 model 字符串。

前置配置:设置 LITELLM_BASE_URL(如 https://my-proxy.example.com)和 LITELLM_API_KEY(代理管理员密钥)。

使用方式:先向用户询问必填的 model_id;若用户不知道,可先列出模型: curl -s "$BASE/model/info" -H "Authorization: Bearer $KEY" | python3 -c " import sys,json for m in json.load(sys.stdin).get('data',[]): print(m['model_info']['id'], m['model_name']) "

再确认要更改的内容,可为 api_key、api_base、api_version(Azure)、model(底层模型字符串,如 azure/new-deployment)的任意组合。执行: curl -s -X POST "$BASE/model/update"
-H "Authorization: Bearer $KEY"
-H "Content-Type: application/json"
-d '{ "model_info": {"id": "<model_id>"}, "litellm_params": { "api_key": "<new_key>", "api_base": "<new_base>" } }' 只在 litellm_params 中包含需要更改的字段。

输出:确认模型已更新,并可提议运行一次测试调用以验证路由仍然正确。

限制:需要代理管理员密钥与可访问的代理地址;资料未提供其他限制、错误码、权限范围或版本要求。