SuperAPI AI 工具集

strands-decider

Strands Decider 是一个面向智能体(agentic)工作流的小型快速决策模型,属于所谓“系统一”模型类别。与可生成任意文本的 LLM 不同,它专注于在给定选项之间做选择,或按量表对内容打分,并且每次决策都带有经过校准的置信度。资料称其速度比 LLM 更快,同时不需要像训练传统分类器那样花费时间和专业知识。它支持三类问题:Choice(在若干命名选项中选择)、Noul(是/否二值概率)和 Score(有序量表评分)。首个模型 strands-decider-2B 有 19 亿参数,在 RTX 3090 上回答一个问题的中位延迟为 115 毫秒,也可在 Apple 芯片 Mac 或 CPU 上运行。资料指出,在未见过的短分类任务上,置信度达到 0.9 或以上的回答约有 95% 是正确的,低于该阈值则应人工确认或询问。安装方式、具体命令、部署细节部分仅按官方文档描述,其余事实暂未提供。

访问官网

工具介绍

用途

Strands Decider 是一个小型、快速的决策模型,官方称其为“系统一”(system one)模型,面向智能体 AI 工作流。它不做开放式文本生成,而是专注于两类任务:在给定选项集合中做选择,以及按量表对内容打分。官方定位它填补了 LLM 与传统分类模型之间的空白:比 LLM 响应更快,又不像传统分类器那样需要耗时且专业的训练。它尤其适合与 Strands Agents SDK 构建的智能体工作流配合使用。

主要能力

  • 三类问题:Choice(在若干命名选项中选择,例如“sihamba ngokushesha 是哪种语言?英语、祖鲁语还是荷兰语”)、Noul(是/否二值概率,例如“strawberry 里有三个 r 吗”)、Score(按有序量表评分,例如“这句话有多正面?0 到 1 之间”)。
  • 置信度:每次决策都带有校准后的置信度。资料称在未见过的短分类任务上,置信度 0.9 或以上的回答约有 95% 正确;低于该值时应确认或询问人类。官方称前沿 LLM 推理 API 并不暴露等价的能力。
  • 可组合提问:可以将多个问题放进单条命令,只需加载一次状态,效率更高。
  • 服务器模式:可以作为服务器运行,通过 HTTP 请求提问。
  • 多模态(特定模型):Qwen3.5-2B-Base 原生多模态,使用 --vision 时服务器保留视觉塔,请求可在 state 中携带 base64 图像。发布的检查点(v1,以及更早的 hobson-v21 和 v19)无需图像训练即可对图像作答。

使用方式

官方给出的入门方式是通过 strands-decider CLI。在 Apple 芯片 Mac 上,--device mlx 可通过 MLX 运行模型,比 MPS 快 1.4 到 1.6 倍;该功能需要 mlx 附加组件,官方称其随下一版本发布,在此之前可从克隆仓库用 pip install -e ".[mlx]" 安装。cuda、mps 和 cpu 三个附加组件对应其他设备。示例输出来自 strands-decider-2B-qwen3.5-v1-2610,使用 --device cpu 记录。

模型族与命名

模型命名格式为 strands-decider-<size>-<base>-v<N>-<YYMM>:<size> 是基础模型规模(如 2B、E4B),<base> 是基础模型家族(如 qwen3.5、gemma4),v<N> 是同一基础家族上的发布序号,<YYMM> 是发布月份。更早的模型保留原名:strands-decider-2B-hobson-v19 和 strands-decider-2B-hobson-v21。模型主要放在 Hugging Face 的 StrandsAgents 组织下,五个 v1 模型也在 amazon 组织下,文件与名称相同。

适用场景

官方列出智能体工作流内的决策:模型路由(为任务挑选合适的 LLM)、工具选择(决定智能体下一步调用哪个工具)、参数检查(在工具调用执行前验证参数)、分诊(将请求路由到负责的团队或队列)、护栏(接地检查、安全分类、策略分类)、评估(低成本给模型输出打分、判断回答是否充分)、混合智能体(让 LLM 做困难决策,让 decider 做机械决策以降低成本和延迟)。

限制与已知事实

  • 资料称 Gemma 4 模型只读文本,--vision 仅用于 Qwen3.5 模型。
  • 精度与校准的具体数值、不同模型尺寸的取舍(12B、26B-A4B、E4B、E2B 在精度、校准、内存和延迟上的差异)以及训练数据来源均在官方文档中说明;资料给出 v1 在 1,996 个留出的代码任务上得分为 0.836,2B 模型在 RTX 3090 上中位延迟 115 毫秒。
  • 训练一次约需单张 RTX 3090 上 11 小时,或在八张 H100 上使用 FAST=1 约 1 小时 10 分钟。
  • 项目采用 Apache License 2.0 许可。

暂未提供

除上述内容外,其他功能、收费、价格、平台支持、效果细节或使用步骤在资料中暂未提供。