SuperAPI AI 工具集

vercel-ai-sdk

通用与其它

查看项目

更新于 10-16 03:38

技能介绍

用途:用 Python 构建 LLM 驱动的应用,支持流式输出、工具调用、人机协同钩子与结构化输出。安装命令:uv add vercel-ai-sdk,导入:import vercel_ai_sdk as ai。

核心用法:ai.run(root, *args, checkpoint=None) 是入口,创建 Runtime 并异步产出 Message;所有 SDK 函数须在 ai.run() 内调用。用 @ai.tool 装饰异步函数生成工具,schema 由类型提示与 docstring 提取;ai.stream_step 执行单次调用,ai.stream_loop 循环调用并执行工具直到无工具调用;ai.execute_tool 按名执行工具并优雅处理参数错误。多智能体可用 asyncio.gather 并行并以 label 区分。

消息与输出:ai.make_messages 构造消息;Message 为 Pydantic 模型,提供 text_delta、text、tool_calls、output、is_done 等属性。传 output_type=Pydantic 模型可获得校验后的结构化输出。

定制:可用 stream_step 手写循环实现条件执行或审批门;用 @ai.stream 将异步生成器接入 Runtime;工具可通过 runtime.put_message() 回传进度。

钩子与检查点:@ai.hook 定义挂起解析 schema,支持长时运行与 serverless 模式;Checkpoint 记录已完成步骤以便重放。

适配器与集成:支持 Vercel AI Gateway、OpenAI、Anthropic 模型;提供 AI SDK UI 的 SSE 流适配、MCP 工具获取(HTTP 与 stdio)及基于 OTel 的遥测。

限制:须在 ai.run() 的 Runtime 上下文内调用相关函数;钩子模式与检查点行为取决于 cancels_future 配置;材料未提供定价、平台支持范围及性能数据。