SuperAPI AI 工具集

chat-format

智能体与模型

查看项目

更新于 10-15 14:55

技能介绍

Chat Format 是 ruflo 中用于多服务商 LLM 推理的提示词格式化技能,同时集成了基于 HNSW 的上下文检索能力。

【用途】 该技能主要用于两类任务:一是为不同的 LLM 服务商准备提示词,使同一组消息能够适配目标服务商的聊天模板;二是构建 RAG(检索增强生成)流程,通过 HNSW 索引进行上下文检索,为模型补充相关资料。

【主要能力】

  1. 多服务商聊天格式适配:支持将消息按目标服务商格式转换,覆盖 Anthropic(Claude,原生格式)、OpenAI(GPT,chat completion 格式)、Google(Gemini,generative AI 格式)、Ollama(本地模型格式)以及 Cohere(generate/chat 格式)。
  2. HNSW 上下文检索:可创建 HNSW 索引、向索引中添加文档,并路由查询以找到相关上下文,用于 RAG 管道。
  3. 服务商状态检查:可查询服务商可用性。

【使用方式】 按资料给出的步骤,通过调用 ruflo 的 MCP 工具完成操作:

  • 格式化聊天:调用 mcp__plugin_ruflo-core_ruflo__ruvllm_chat_format,传入 messages 与目标 provider。
  • 创建 HNSW 索引:调用 mcp__plugin_ruflo-core_ruflo__ruvllm_hnsw_create。
  • 添加文档:调用 mcp__plugin_ruflo-core_ruflo__ruvllm_hnsw_add 将文档加入索引。
  • 路由查询:调用 mcp__plugin_ruflo-core_ruflo__ruvllm_hnsw_route 查找相关上下文。
  • 检查状态:调用 mcp__plugin_ruflo-core_ruflo__ruvllm_status 查看服务商可用性。

【适用场景】

  • 需要在 Claude、GPT、Gemini、Ollama、Cohere 等多个模型服务商之间统一切换和构造提示词。
  • 需要为问答、检索或其他生成任务接入向量上下文。
  • 在本地模型与云端模型之间进行提示词格式转换。

【限制】 资料未提供关于收费、价格、性能表现或具体平台要求的说明,暂未提供。