obliteratus-abliteration

用途

OBLITERATUS 是一个开源的大语言模型拒答行为移除工具包，使用机械可解释性技术（abliteration）识别并手术式地移除大语言模型的拒答行为。其流程为：在模型隐藏状态中定位拒答方向，将其从权重中投影剔除，并保留核心语言能力。

主要能力

拒答方向提取：通过 SVD/PCA 从激活中提取拒答方向。
多种消融方法：basic（均值差方向提取，单次处理）、advanced（白化 SVD + 偏置投影 + 迭代精炼）、informed（分析引导自动配置）、lora（可逆的 rank-1 LoRA 适配器，不做权重手术）、pca（基于 PCA 的方向提取）、sparse（稀疏自编码器分解，适用于 MoE 模型）。
流水线阶段：SUMMON → PROBE → DISTILL → EXCISE → VERIFY → REBIRTH。
分析模块：概念锥几何（拒绝机制聚类数、立体角估计）、对齐印记检测（识别 DPO/RLHF/CAI/SFT 等训练方法及置信度）、Ouroboros 效应量化（自修复评分与推荐迭代次数）、跨层拒答信号热力图、安全—能力纠缠映射（安全层与风险层）。
强度扫描（sweep）：在能力与合规之间寻找权衡点。
基准测试（benchmark）：在多个模型上比较方法。
A/B 对比：比较原始模型与消融后模型的输出。
支持推送消融模型到 HuggingFace Hub。
提供 Gradio UI、CLI、Python API 与 Colab notebook。

安装方式

核心安装：pip install obliteratus 带 Gradio UI 支持：pip install "obliteratus[spaces]" 带全部可选分析模块：pip install "obliteratus[full]" 从源码安装：

git clone https://github.com/elder-plinius/OBLITERATUS
cd OBLITERATUS
pip install -e ".[full]"

要求：Python 3.10+；PyTorch 2.1+ 配 CUDA（推荐）或 CPU；transformers、accelerate、gradio>=5.29.0；访问门控模型需 HuggingFace 账号与 token。

使用方式

CLI 示例：

obliteratus obliterate meta-llama/Llama-3.1-8B-Instruct
obliteratus obliterate meta-llama/Llama-3.1-8B-Instruct --method advanced
obliteratus obliterate meta-llama/Llama-3.1-8B-Instruct --method informed
obliteratus sweep meta-llama/Llama-3.1-8B-Instruct --strengths 0.2,0.4,0.6,0.8,1.0
obliteratus analyze meta-llama/Llama-3.1-8B-Instruct --modules concept_cone,alignment_imprint,universality
obliteratus ui

Python API 示例（基础消融）：

from obliteratus import Obliterator
obl = Obliterator("meta-llama/Llama-3.1-8B-Instruct")
result = obl.obliterate(method="advanced")
print(result.perplexity_delta)
print(result.refusal_rate_delta)
print(result.output_path)

Python API 支持分步流水线（summon、probe、distill、excise、verify、rebirth）、自定义探针提示（ProbeDataset）、分析模块调用、与消融后模型对话（ChatSession）、A/B 对比（ABComparison）、推送 Hub、强度扫描（StrengthSweep）、MoE 专家粒度消融（expert_granular）、批量基准（ModelBenchmark）。关键配置项（PipelineConfig）包括：method、strength、num_directions、layers、layer_selection（如 cosmic）、preserve_norm、project_biases、project_attention、project_mlp、iterative_passes、expert_granular、cot_aware、dtype、device、load_in_4bit、telemetry。

适用场景

研究语言模型拒答行为与安全对齐机制。
需要在特定应用中对模型拒答行为进行移除。
比较不同消融方法在多种模型上的表现。
MoE 模型（如 Mixtral、DeepSeek-MoE）的专家粒度消融。
通过无代码方式（HuggingFace Space、Colab notebook）快速体验。

限制

移除拒答行为可能影响模型的安全性与合规性，文档中未提供相关使用限制或合规说明。
能力可能退化，需通过强度调整、COSMIC 层选择、cot_aware 等方式缓解。
大模型可能出现显存不足（OOM），可通过 float16、4bit 加载、减少目标层与方向数缓解。
部分方法（如 sparse 面向 MoE）有特定适用范围。
访问门控模型需 HuggingFace token 并接受模型许可。

参考资料

文档列出多篇研究文献（Arditi et al. 2024、Gabliteration、COSMIC layer selection、Turner et al. 2023、Rimsky et al. 2024），仅作为研究参考，未提供其他详细信息。