用途:为 bridgic 项目初始化 LLM 提供商,支持 OpenAILlm、OpenAILikeLlm、VllmServerLlm 三类模型接入,并提供协议驱动的能力声明。
主要能力:所有提供商实现 BaseLlm,支持 chat 完整响应与 stream 流式输出。能力差异:bridgic-llms-openai 支持 BaseLlm、StructuredOutput、ToolSelection;bridgic-llms-openai-like 仅支持 BaseLlm;bridgic-llms-vllm 支持 BaseLlm、StructuredOutput、ToolSelection。python-dotenv 用于加载 .env 配置。
使用方式:按需安装对应提供商包。安装脚本:bash "skills/bridgic-llms/scripts/install-deps.sh" "$PWD" [PROVIDER],支持 openai(默认)、openai-like、vllm。脚本会检查 uv、初始化 uv 项目、用 uv add 安装缺失包并执行 uv sync,成功后项目即可使用。快速开始示例:从 dotenv 加载环境变量,用 OpenAILlm 传入 api_key、api_base、OpenAIConfiguration(model、temperature、max_tokens)与 timeout。基础接口示例:构造 Message 列表(Role.SYSTEM、Role.USER),调用 llm.chat 或 llm.stream。
适用场景:需要结构化输出或工具调用时选 OpenAILlm;仅需基础聊天/流式的第三方 OpenAI 兼容 API(如 DashScope)选 OpenAILikeLlm;自托管 vLLM 推理服务选 VllmServerLlm。
限制:OpenAILikeLlm 未实现 StructuredOutput 与 ToolSelection,需要这些能力时应改用 OpenAILlm。更多 API 细节与高级协议见 references/llm-integration.md。