SuperAPI AI 工具集

litellm-proxy-gateway

智能体与模型

查看项目

更新于 10-15 21:11

技能介绍

用途:判断单应用是否用 SDK 即可,仅在需要集中权限、治理或共用入口时采用 LiteLLM Proxy;用于搭建或审查其基础拓扑、model alias、config.yaml、启动方式与 OpenAI 兼容客户端,也适用于迁移既有 OpenAI 客户端。

主要能力与流程:查核 LiteLLM 版本与 config schema;建立最小 model_list,以稳定 model_name 对应 provider-prefixed model;从环境变量注入 provider key、master key、database URL 与 Redis secret;启动 Proxy,并用 OpenAI SDK 验证 alias 与错误路径;按需加载 litellm-routing-reliability、litellm-cost-governance、litellm-observability、litellm-guardrails-safety 或 litellm-mcp-skills-gateway;交付开发、测试、正式环境差异及验证证据。需要 config、client smoke test 或版本注意事项时,读取实验与参考。

安全底线:不在配置、代码、命令历史或教材中放真实 secret;正式 client 不使用 master key;不把 provider key 与 Proxy virtual key 视为同一权限层;对外服务使用 TLS、受控网络与最小公开端点,本机 HTTP 示例不得直接沿用到正式环境。

验收:config 可加载且无真实 secret;OpenAI 兼容客户端能通过 alias 完成 smoke request;未授权 key 被拒绝;专门治理需求已路由到对应 skill,而非在本技能内自行简化。

限制:成本治理、观测、安全、可靠性与 MCP 细节必须搭配对应专门技能;具体命令、config 示例与版本注意事项暂未提供。