用途
Agr 是 Command Code 推出的决策模型。你把一个状态(文本或 JSON)和一个或多个带类型的问题发给它,它返回带概率的类型化答案。适合路由工单、选择工具、批准动作这类答案集合固定的决策场景。
主要能力
- 对固定选项集直接打分,为每个选项返回概率,而不是生成需要解析的文本。
- 对同一状态的所有问题在一次前向传播中作答,彼此独立,一个问题不能关注另一个问题。
- 三种问题类型,即 System One 原语:
- choice:从若干命名选项中选一个,criteria 将每个名称映射到一段描述。
- score:按 criteria 中按顺序列出的等级评估状态。
- noul:是/否判断。
- confidence 使用 System One 的定义,并非最高选项的概率。
- 每个问题包含 type 和 instructions 两个字段,输入仅限文本。
版本与评测
- Agr 提供两个规模:Agr 和 Agr-flash。
- Agr 在 Decision Index 0.2.1 的 38 项计入基准上得分为 58.15。
- 评测在公共 Decision Index 套件的全部 150,759 个请求上运行,修订版为 87d4650,未做任何截断。Jev、Kev 与 Rune 分数取自 2026 年 9 月 28 日的公开榜。
- 该指数对五个领域的随机校正技能取平均,数字为技能 × 100,不是原始准确率或 F1。所有领域均为越高越好,包括 ForecastBench(指数把 Brier 分数转换为技能分数)。BRIGHT 请求中有 3% 超过 Agr 的 32,768 token 上限,计为错误。
- Agr-flash 不用于安全决策。
- 每个仓库包含权重、分词器和配置。
使用方式
环境要求 Python 3.11 或更新版本。安装会一并拉取 PyTorch 以及经过测试的 Transformers 版本。首次运行会从 Hugging Face 下载权重:Agr 的 bf16 权重为 61.43 GB,官方在 96 GB GPU 上提供该服务;Agr-flash 请使用 CommandCode/agr-flash。
服务端在 /v1/systemone 接收 System One 请求,可用 curl、Python 或 TypeScript 调用。
TypeSafe Python SDK:
TypeSafe JavaScript SDK(Node.js 20 或更新版本):
服务端默认不需要密钥,因此 API key 可以是任意字符串。如果启动时带了 --api-key 或 AGR_API_KEY,则需传入该密钥。
在自有数据上评估:会报告准确率、Brier 分数、校准误差和延迟。标签格式及 agr compare 见 DESIGN.md。
适用场景
- 答案选项集合固定的分类式决策,如工单路由、工具选择、动作批准。
- 需要直接获得各选项概率分布,而不是自由文本的场合。
- 希望在同一状态上并行提出多个相互独立问题的场合。
限制
- 仅支持英文文本;不支持图像。
- 答案仅限你提供的选项;不生成文本或解释。
- 在依赖概率和阈值前,请先在自己的有标签样例上检查。
- 改变选项顺序可能改变答案。
- 两个模型都不是独立的安全过滤器,也不适合作为涉及人的重大决策的唯一依据。
致谢与许可
Agr 基于 TypeSafe 的 Jev 及其 System One API,以及 Archer Hume 对 Jev 架构的分析构建;还参考了 Jared Palmer 的 Kev、Mark Marosi 的 Decider(答案槽提示布局与温度规则),以及 Invergent AI 的 Surogate(选项顺序平均)。感谢 apolinário 与 Decision Index 维护者、Google DeepMind 提供 Gemma、Hugging Face 提供 SmolLM2,以及所用数据集作者。Agr 与 TypeSafe 及本文比较的系统无隶属关系。
Agr 以 Apache 2.0 发布。Agr 使用 Google DeepMind 的 Gemma 4 31B IT;Agr-flash 使用 Hugging Face 的 SmolLM2-360M。两个基础模型均以 Apache 2.0 授权。署名见 NOTICE.md。
暂未提供
除上述内容外,收费、价格、平台支持范围和具体使用步骤等细节暂未提供。