用途:为“直觉构建五件套”(Intuition Builder 5-set)生成其中的反事实框架,回答“如果这个组件不存在会怎样”,以揭示某技术元素的功能。它也是 generate-analogy-set 中五种原型之一,当写作者只想要反事实角度而不需要完整五件套时可单独调用。
主要能力:提供三种反事实动作,可任选最贴合的一种——消融(Remove X. What remains? 通过展示退化后的系统来揭示X的功能)、替换(Replace X with its naive alternative. How does the system fail? 揭示X为何是特定选择)、反转(What if X operated the opposite way? 揭示方向性,即X为何朝一个方向而非另一个方向推)。
使用方式:针对主题 T 的工作流程为——第一步,确定写作者想要阐明其功能的组件或机制;第二步,提出减法,即如果该组件缺席会怎样;第三步,描述由此产生的具体系统(你将会得到什么);第四步,描述什么会失效——性能、正确性、表达力、效率;第五步,返回反事实框架陈述。输入为主题加上(可选的)目标消融组件;输出为一条反事实框架陈述以及它所揭示的具体失败。
适用场景:面向技术写作,用来解释注意力等概念的“存在意义”。资料给出主题“Attention (in Transformers)”的示例:消融角度说明移除注意力后只剩逐 token 的残差 MLP,层内 token 位置间不流动信息;替换角度说明换成固定卷积后只能获得局部性,无法任意连接 token 1 与 token 500,注意力的价值在于任意范围的寻址;反转角度说明若改为硬注意力只选一个 token 复制,训练会更差,软插值使损失曲面可导航。通常为五框架集选用消融,其余可留作独立文章。
限制:反事实必须具体,不能只说“想象注意力不存在”,而应实际描述没有它的系统长什么样;失败描述要具体,“性能会受影响”是含糊的,应如“上下文消失——模型在层内独立处理 token”;框架陈述不超过两句,细节可在草稿中展开;不要把反事实与假设混淆,反事实是“如果没有这个会怎样”(揭示功能),假设是“如果我们改用X会怎样”(提出替代),本技能属于前者;若主题没有可减去的明确组件(如“transformer”有而“softmax”没有),则退回替换或反转。理论依据为 Pearl 的因果阶梯——反事实推理以关联无法做到的方式阐明因果关系。