用途
Strands Decider 是一个小型、快速的决策模型,官方称其为“系统一”(system one)模型,面向智能体 AI 工作流。它不做开放式文本生成,而是专注于两类任务:在给定选项集合中做选择,以及按量表对内容打分。官方定位它填补了 LLM 与传统分类模型之间的空白:比 LLM 响应更快,又不像传统分类器那样需要耗时且专业的训练。它尤其适合与 Strands Agents SDK 构建的智能体工作流配合使用。
主要能力
- 三类问题:Choice(在若干命名选项中选择,例如“sihamba ngokushesha 是哪种语言?英语、祖鲁语还是荷兰语”)、Noul(是/否二值概率,例如“strawberry 里有三个 r 吗”)、Score(按有序量表评分,例如“这句话有多正面?0 到 1 之间”)。
- 置信度:每次决策都带有校准后的置信度。资料称在未见过的短分类任务上,置信度 0.9 或以上的回答约有 95% 正确;低于该值时应确认或询问人类。官方称前沿 LLM 推理 API 并不暴露等价的能力。
- 可组合提问:可以将多个问题放进单条命令,只需加载一次状态,效率更高。
- 服务器模式:可以作为服务器运行,通过 HTTP 请求提问。
- 多模态(特定模型):Qwen3.5-2B-Base 原生多模态,使用 --vision 时服务器保留视觉塔,请求可在 state 中携带 base64 图像。发布的检查点(v1,以及更早的 hobson-v21 和 v19)无需图像训练即可对图像作答。
使用方式
官方给出的入门方式是通过 strands-decider CLI。在 Apple 芯片 Mac 上,--device mlx 可通过 MLX 运行模型,比 MPS 快 1.4 到 1.6 倍;该功能需要 mlx 附加组件,官方称其随下一版本发布,在此之前可从克隆仓库用 pip install -e ".[mlx]" 安装。cuda、mps 和 cpu 三个附加组件对应其他设备。示例输出来自 strands-decider-2B-qwen3.5-v1-2610,使用 --device cpu 记录。
模型族与命名
模型命名格式为 strands-decider-<size>-<base>-v<N>-<YYMM>:<size> 是基础模型规模(如 2B、E4B),<base> 是基础模型家族(如 qwen3.5、gemma4),v<N> 是同一基础家族上的发布序号,<YYMM> 是发布月份。更早的模型保留原名:strands-decider-2B-hobson-v19 和 strands-decider-2B-hobson-v21。模型主要放在 Hugging Face 的 StrandsAgents 组织下,五个 v1 模型也在 amazon 组织下,文件与名称相同。
适用场景
官方列出智能体工作流内的决策:模型路由(为任务挑选合适的 LLM)、工具选择(决定智能体下一步调用哪个工具)、参数检查(在工具调用执行前验证参数)、分诊(将请求路由到负责的团队或队列)、护栏(接地检查、安全分类、策略分类)、评估(低成本给模型输出打分、判断回答是否充分)、混合智能体(让 LLM 做困难决策,让 decider 做机械决策以降低成本和延迟)。
限制与已知事实
- 资料称 Gemma 4 模型只读文本,--vision 仅用于 Qwen3.5 模型。
- 精度与校准的具体数值、不同模型尺寸的取舍(12B、26B-A4B、E4B、E2B 在精度、校准、内存和延迟上的差异)以及训练数据来源均在官方文档中说明;资料给出 v1 在 1,996 个留出的代码任务上得分为 0.836,2B 模型在 RTX 3090 上中位延迟 115 毫秒。
- 训练一次约需单张 RTX 3090 上 11 小时,或在八张 H100 上使用 FAST=1 约 1 小时 10 分钟。
- 项目采用 Apache License 2.0 许可。
暂未提供
除上述内容外,其他功能、收费、价格、平台支持、效果细节或使用步骤在资料中暂未提供。