用途：TransformerLens 是 GPT 类语言模型机制可解释性研究的事实标准库，用于逆向分析训练中学到的算法、做因果追踪、研究注意力模式与信息流、分析感应头与 IOI 等电路，以及直推逻辑归因。
主要能力：核心类 HookedTransformer 在每一处激活上挂载 HookPoint，支持 50 多个模型（GPT-2、LLaMA、Pythia、Mistral、phi、qwen、opt、gemma 等）。可用 run_with_cache 缓存中间激活（如 resid_post、pattern、mlp_out），并用 names_filter 选择性缓存以省显存；可在模型层、注意力头维度上做激活修补与消融，计算 logit difference 等指标，并集成 SAELens 做稀疏自编码器分析。
使用方式：pip install transformer-lens；开发版用 pip install git+https://github.com/TransformerLensOrg/TransformerLens。加载模型：model = HookedTransformer.from_pretrained("gpt2-small")；受门控模型需先设置 os.environ["HF_TOKEN"]。缓存用 model.run_with_cache(tokens)，挂钩运行用 model.run_with_hooks。
限制与注意：非 transformer 架构宜用 nnsight 或 pyvene；训练/分析稀疏自编码器用 SAELens；超大模型远程执行用 nnsight 配合 NDIF；更高层因果干预抽象用 pyvene。调试后务必 model.reset_hooks() 清除旧钩子；分词器切分不一定符合直觉，需显式检查；分析中不要忽略 LayerNorm；大模型可用选择性缓存或缓存到 CPU 避免显存爆炸。v2.0 移除了 HookedSAE（迁至 SAELens），v3.0 alpha 引入 TransformerBridge 以加载任意 nn.Module。收费、价格与更多平台信息暂未提供。