SuperAPI AI 工具集

logos-router-distributed-reasoning

智能体与模型

查看项目

更新于 10-16 01:26

技能介绍

用途:Logos Router 是分布式语义推理网关,将 AI 推理分散到本地节点的推理网格中协作,通过跨验证保持推理保真度,减少长上下文交互中的漂移。宣称特性包括零漂移共识(严格写入纪律 SWD 校验每步推理)、自适应深度、16 种语言统一表示、因果审计追踪与本地优先。

主要能力:单查询推理(depth 可为 adaptive 或 1-7)、多步骤工作流(add_step、requires_consensus、synthesis_mode)、文档分析链、跨语言查询(source_language/target_language)、流式推理步骤、自定义推理配置与节点能力清单、优雅降级、REST API(/v1/query、/v1/workflow、/v1/query/stream)、WebSocket 流式,以及 CLI(logos-query、logos-mesh)与故障排查、审计导出和推理 DAG 可视化。

使用方式:需 Python 3.11+ 与本地推理引擎(VLLM、Ollama、llama.cpp 等)。示例安装:curl -fsSL https://ollama.com/install.sh | sh;ollama pull opus-mini-4.8;git clone https://github.com/rak7777/mythic-mcp-proxy.git;cd mythic-mcp-proxy;pip install -r requirements.txt;python -m logos.router --version。配置 mesh_config.yaml 定义节点、共识阈值、语言、存储与路由;启动:python -m logos.router serve --config mesh_config.yaml --port 8080。

适用场景:需要可验证推理轨迹、多节点共识、多语言语义分析或本地部署的开发者与研究场景。

限制:资料未提供收费、价格、性能基准或支持平台等事实;部分模型名称与配置项为示例,请以官方文档为准;具体效果、可用性和兼容性暂未提供。