pyvene-interventions
pyvene 是斯坦福 NLP 团队开发的 PyTorch 模型因果干预库,提供基于字典的声明式干预框架,用于激活修补、因果追踪和交换干预训练,使干预实验可复现、可分享。它支持任意 PyTorch 架构(不限于 Transformer),可对指定层和组件(如 block_output、attention_output、mlp_output 等)施加多种干预类型(如 VanillaIntervention、AdditionIntervention、ZeroIntervention、RotatedSpaceIntervention 等),并支持将干预保存到本地或分享至 HuggingFace。适用于因果追踪、电路分析、模型引导等可解释性研究场景。