SuperAPI AI 工具集

agently-embeddings

数据与分析

查看项目

更新于 10-15 19:51

技能介绍

用途:在 Agently 中配置并发送嵌入请求,聚焦 OpenAICompatible 的 embeddings 设置、请求结构、输入批处理、异步用法、解析后的向量结果,以及供向量库集成使用的嵌入智能体交接。不涉及通用 chat/completions 设置、结构化输出控制、提示模板管理或完整检索流程设计。

前提:Agently >= 4.0.8.5。Agently 运行时以异步优先,调用方可用异步 API 时优先 async_start() 或 async_get_data()。属于同一嵌入任务的文本先批处理,再对重叠的嵌入任务使用异步并发。

主要能力:配置 OpenAICompatible 并设 model_type="embeddings";在 base_url、full_url、auth、proxy、timeout、client_options、request_options 之间选择;理解嵌入请求由 input 构建而非聊天式提示组装;通过 input(...) 发送单条或一批文本;理解非标量输入在发送前的序列化;通过 start()、get_data()、async_start()、async_get_data() 消费解析后的嵌入向量;理解单条与批量输入的结果形状;将嵌入智能体作为 Chroma 等向量库集成的交接点;组织离线索引或回填任务;组织低延迟在线查询嵌入。

使用方式:嵌入场景下 input(...) 才是真正的请求体,info(...)、instruct(...)、examples(...)、output(...)、attachment(...) 不是 embeddings 模型类型的请求体。单条输入生成一次嵌入请求,列表输入生成一次批量嵌入请求;解析后的数据是嵌入向量列表。嵌入不是流式响应流程,stream 参数对该模型类型无意义。常规结果消费用 start() 或 get_data();查看元信息或原始载荷先用 get_response(),再从 response.result 读取。不要将 .output(...) 或 get_data_object() 当作常规嵌入路径。

适用场景:离线索引、回填任务、在线查询嵌入,以及把嵌入智能体传入向量库集成。

限制:不适用于 Chat LLM、Completions LLM 或 VLM 设置,不涉及 .output(...)、ensure_keys 或结构化输出重试,不涉及嵌入输入之外的提示槽组合,不涉及检索排序、知识库编排或答案生成逻辑,也不涉及完整 Chroma 或 RAG 工作流设计。