SuperAPI AI 工具集

langchain-model-inference

智能体与模型

查看项目

更新于 10-15 23:27

技能介绍

用途:在 LangChain 1.0 中统一调用 Anthropic、OpenAI、Google 三家聊天模型,并规避内容块形状、token 统计与结构化输出方面的常见陷阱。

主要能力:讲解 ChatAnthropic、ChatOpenAI、ChatGoogleGenerativeAI 的初始化与模型路由;处理 AIMessage.content 在字符串与 list[dict] 之间的差异(P02);在流式场景下正确统计 token(P01);按提供商选择 with_structured_output 方法(json_schema、function_calling、json_mode 加 Pydantic 校验与重试);并给出常见报错的成因与修复。

必要用法:需 Python 3.10+、langchain-core >= 1.0, < 2.0,以及至少一个提供商包,例如 pip install langchain-anthropic langchain-openai;配置 ANTHROPIC_API_KEY、OPENAI_API_KEY、GOOGLE_API_KEY。初始化时显式设置 timeout=30、max_retries=2;用工厂函数按 provider 返回 BaseChatModel;用 msg.text() 或自定义提取器安全读取文本;流式统计使用 astream_events(version="v2");结构化输出优先 method="json_schema",旧模型回退 function_calling 或 json_mode。

适用场景:多提供商模型路由、草稿与终稿分模型、结构化数据抽取、多模态图像加提示、流式成本监控。

限制:资料未提供具体收费、价格与效果数据;部分行为依赖具体模型版本与提供商能力,需按实际环境验证。