用途:为 Convex 应用加入应用内 AI 智能体与 RAG 后端。核心依赖 @convex-dev/agent,用于持久化线程、消息历史、工具调用以及向量搜索/检索增强生成。
主要能力:默认通过 Convex AI Gateway 调用模型,由 Convex 持有服务商凭据,因此无需自行获取、保存或轮换 LLM 密钥。
使用方式:先安装 @convex-dev/agent 与 @convex-dev/ai-sdk-provider,并在 convex.config.ts 中注册 agent 组件;随后定义智能体(工具与指令),使用 languageModel: convexGateway("provider/model") 指定模型;接着创建线程并流式发送消息,历史记录持久化在 Convex 中。做 RAG 时,将文档嵌入向量索引并在工具中检索。模型调用需在 action 中执行,SDK 需要时加 'use node'。
限制与注意:网关使用需 Convex Cloud 部署且为付费计划,并要求 convex 1.45+;网关目前尚不支持 embeddings,需通过 env micro power 存储嵌入服务商的密钥。仅当网关不可用(免费计划、自托管、本地后端)时,才改用服务商 SDK 并同样以 env micro power 存储密钥。切勿在客户端暴露服务商 API 密钥。