SuperAPI AI 工具集

evo2-nim

智能体与模型

查看项目

更新于 10-16 02:33

技能介绍

用途:通过 NVIDIA Evo 2 BioNeMo NIM 微服务生成 DNA 序列,并在本地模式下提取模型层输出。

主要能力:托管生成走 https://health.api.nvidia.com/v1/biology/arc/evo2-40b/generate;本地生成走 $EVO2_NIM_URL/biology/arc/evo2/generate;本地前向/层输出走 $EVO2_NIM_URL/biology/arc/evo2/forward,返回 base64 编码的 NPZ 张量。生成参数包括 sequence、num_tokens、temperature、top_k(0-6)、top_p(0-1)、random_seed、enable_sampled_probs、enable_elapsed_ms_per_token 及可选 enable_logits。

使用方式:用 scripts/generate.py 执行请求并校验响应,示例:python scripts/generate.py --mode hosted --sequence ACTGACTGACTGACTG --num-tokens 64 --seed 1 --temperature 0.7 --top-k 3 --top-p 0.0 --output-dir /path/to/workspace/evo2-output。客户端保存 request.json、response.json、generated.fasta、metrics.json 与 response.raw,并校验生成碱基数、A/C/G/T 字母表、概率与耗时。模式由 NIM_API_MODE 决定(hosted/local),未设置时若存在 EVO2_NIM_URL 视为 local。托管请求用 Authorization: Bearer $NGC_API_KEY;本地推理就绪后无需认证头。

本地 Docker:需 FP8 能力 GPU(计算能力 8.9+),A100 不兼容。40B 默认需 2x H100 80GB 或 1x H200 141GB,磁盘约 110GB;7B 设 NIM_VARIANT=7b,支持 H100、H200、RTX 6000 Ada、L40S,磁盘约 50GB。启动命令:docker run --rm -it --name evo2-nim --runtime=nvidia --gpus ""device=${NIM_TEST_GPUS}"" -e NGC_API_KEY -e NIM_VARIANT -v "${LOCAL_NIM_CACHE}:/opt/nim/.cache" -p 8000:8000 nvcr.io/nim/arc/evo2:2。就绪检查轮询 $EVO2_NIM_URL/v1/health/ready。

限制:/forward 仅本地 Docker 提供,托管无此端点;random_seed 仅用于开发可复现性,不代表生物学确定性;输出目录必须不存在,客户端原子创建;失败请求不自动重试,也不得用示例值替代真实响应。