SuperAPI AI 工具集

embeddings-and-search

数据与分析

查看项目

更新于 10-16 07:18

技能介绍

用途:Embeddings and Search 是 liter-llm 的能力集合,用于生成文本嵌入、调用网络搜索、对文档做 OCR,以及为检索管线做重排序,全部走同一套 provider/model 路由约定。

主要能力:嵌入支持维度选择与 base64 输出(在服务方允许时于请求中设置 dimensions、encoding_format);网络搜索覆盖 12 家提供方;OCR 覆盖 4 家提供方,输出按页返回,含页码与 markdown 文本;重排序用 RerankRequest(model、query、documents)对候选文档打分排序,结果含 index 与 relevance_score,可与 embed 组合做混合检索。

必要用法:安装与调用来自 liter-llm。嵌入示例:from liter_llm import create_client;from liter_llm._internal_bindings import EmbeddingRequest;create_client(api_key=os.environ["OPENAI_API_KEY"]);EmbeddingRequest.from_json('{"model":"openai/text-embedding-3-small","input":["first document","second document"]}');await client.embed(request)。搜索:SearchRequest.from_json('{"model":"brave/web-search","query":"What is the Rust programming language?","max_results":5}');await client.search(request)。OCR:OcrRequest.from_json('{"model":"mistral/mistral-ocr-latest","document":{"type":"document_url","url":"https://example.com/invoice.pdf"}}');await client.ocr(request)。重排序:构造 RerankRequest 后 await client.rerank(request)。以上均为异步调用,配合 asyncio.run 使用。

适用场景:语义检索、RAG 数据准备、批量文档 OCR、搜索结果聚合与检索结果精排。

限制:搜索与 OCR 提供方各自需要独立 API 密钥(如 BRAVE_API_KEY、MISTRAL_API_KEY),从环境变量读取;完整 12 家搜索与 4 家 OCR 后端清单及模型标识需查阅上游提供方参考,资料中未给出;其余细节暂未提供。