用途:System 2 Attention(S2A)是面向 Transformer 架构的审慎、慢速推理机制,以验证器/约束的定位(Trit: -1)对注意力结果做二次校验,减少迎合性与无关上下文干扰。
主要能力:上下文重生成,由 LLM 重写上下文并移除无关信息;两遍注意力,先快速匹配再审慎推理;过滤迎合性内容与引导性问题;将回答锚定到已核实事实,并可用 validate_factual_grounding 比较声明与事实的蕴含关系来打分。
使用方式:典型模式为先由 LLM 从上下文提取仅与问题相关的客观事实,再在干净上下文上回答。命令示例:just s2a-filter context.txt query.txt;just s2a-sycophancy-test model responses/;just s2a-grounding response.txt facts.txt。
适用场景:需要抑制迎合性、过滤噪声上下文、加强事实锚定的推理与验证任务,可与 causal-inference、forward-forward-learning 等技能组合。
限制:资料未提供具体模型要求、性能数据、收费与平台支持等信息;实现效果依赖所用模型与阈值设定,文中阈值等参数未给出确定取值。