该技能用于设置、启动、验证和排查 ESM Cambrian ToolUniverse 远程工具,并可选通过 ToolUniverse Connect 进行中继转发。文档记录验证状态:2026-10-01 在 NVIDIA GB10(aarch64,cc 12.1)上以优化套件关闭模式运行 ESM Cambrian 6B,四个连续相同请求测得构建耗时 141.7 秒,后续前向耗时 0.69/0.076/0.074/0.074 秒,峰值显存约 24.07 GiB。公开发布、跨用户隔离、并发、恢复和嵌入质量均未测试,因此建议保持私有部署。
前置条件:在 Linux 上从 ToolUniverse 仓库根目录运行,需要 Python 3.12.3 和 CUDA GPU;提供方在请求之间保持模型驻留,CPU 不是目标。提供方数据、权重、缓存和凭据应放在 Git 之外。绑定回环地址;非回环绑定需要 TOOLUNIVERSE_API_TOKEN,且不得将其放入参数或结果。下载大型依赖前运行标准库契约检查脚本,之后可添加 --check-provider-env、--live、--check-connect-prereqs 等选项进行验证。
创建两个环境:MCP 服务器运行在 ToolUniverse 环境中,模型运行在独立的锁定环境中,两者不能互相导入。先创建 .venvs/esmc 并安装依赖,再在 TOOLUNIVERSE_ESMC_PYTHON 指定路径创建空解释器,由 tu remote setup --only environment 从锁定文件填充。tu remote setup 读取 provider.toml 并依次执行 preflight、environment、kit、weights、smoke 五步,每步失败会给出修复提示。smoke 步骤会保持模型、发送请求并记录实测峰值显存到 ~/.cache/tooluniverse/measured/esmc.json。
凭据与权重:HF_HOME 指向包含 biohub/ESMC-6B 快照(23.7 GiB)的 Hugging Face 缓存;300m 和 600m 变体不在磁盘上,切换需要重新获取并调整显存预算。请求时不下载任何内容,清单声明每个权重文件的大小和 sha256,启动时若不符合则拒绝。
授权与分享:每台机器运行一次 tu remote login,默认请求短期设备代码并打开审批页面轮询,无头机器可加 --no-browser。登录后通过 tu remote share esmc 进行私有分享,命令会运行环境与平台预检、启动或复用回环端点、验证发现并保持中继在前台。可使用 tu remote check 进行就绪检查,tu remote run 运行本地服务器。键缺失或过期时交互终端自动启动浏览器流程,非交互任务快速失败。使用 tu remote logout 移除本地副本,--revoke 撤销平台连接。
本地启动与验证:运行 python -m tooluniverse.remote.esmc.esmc_tool 启动服务,Streamable HTTP 端点为 http://127.0.0.1:8037/mcp。使用 fastmcp Client 列出工具,确认包含 run_esmc_embed。首次请求承担模型构建成本,后续请求不再承担。
连接 ToolUniverse Connect:tuplatform-connect 中继尚未发布到 PyPI,需安装指定的公共 wheel 并校验 SHA-256。交互分享使用浏览器设备授权;CI 或迁移场景仅通过受保护环境提供 TOOLUNIVERSE_SERVICE_KEY,或使用 tu remote login --manual-key。
验证示例:调用 run_esmc_embed,传入序列,预期返回平均池化嵌入向量(2560 个浮点数)、范数、序列长度和维度。完整逐残基矩阵不以内联方式返回,超过 20,000 个浮点数会被拒绝;整个矩阵以 float32 .npy 文件路径返回。run_esmc_logits 返回平均对数似然、伪困惑度和最不可能的残基。
GPU 与并发调优:使用一个工作进程,工作进程一次只服务一个请求。在共享显卡前读取 vram_budget_gb 和实测文件。测量冷启动、至少四次连续相同请求及混合形状序列,然后测试并行级别 1、2、4、8,仅在内存允许时测试 16。记录成功/错误、p50/p95、峰值内存、取消清理和恢复情况。仅在单飞初始化和可恢复的 OOM/超时行为得到验证后才增加工作进程。
故障排查与清理:读取拒绝信息,退出码 3 表示拒绝,1 表示失败。工作进程日志位于 ~/.cache/tooluniverse/remote-logs/esmc-resident.log。模型环境导入失败时重跑 --only environment;权重不匹配时手动删除文件后重跑 --only weights;401/403 时配置匹配的 bearer 认证。使用 Ctrl-C 停止服务器或中继,可用 tuplatform-service uninstall 卸载。检查 nvidia-smi 确认 GPU 释放。撤销临时密钥后仅删除 .venvs/esmc 和提供方缓存目录,避免宽泛递归删除。仅使用实现 README 链接的官方上游文档。