用途:从开放权重大语言模型中移除拒绝行为(护栏),无需重训练或微调,通过机制可解释性技术定位并切除拒绝方向,同时尽量保留推理能力。
主要能力:提供 9 种 CLI 方法(basic、advanced、aggressive、spectral_cascade、informed、surgical、optimized、inverted、nuclear),方向提取支持 diff_means、svd、leace;含 28 个分析模块、116 个模型预设(按 5 个算力层级)、锦标赛评估与遥测推荐。另有仅限 Python API 的 4 种方法(failspy、gabliteration、heretic、rdo)。
使用方式:先安装(git clone https://github.com/elder-plinius/OBLITERATUS.git;cd OBLITERATUS;pip install -e .),检查 GPU 与显存,浏览模型并获取推荐(obliteratus models --tier medium、obliteratus recommend <model_name>),再运行 abliteration(obliteratus obliterate <model_name> --method advanced --output-dir ./abliterated-models)。输出为标准 HuggingFace 模型目录,可用 transformers 测试、上传 Hub 或用 vllm serve 部署。
适用场景:希望创建 Llama、Qwen、Mistral 等模型的无审查版本,或分析模型拒绝机制。
限制:AGPL-3.0 许可,禁止作为 Python 库导入,只能通过 CLI 或子进程调用;安装依赖约 5-10GB;显存需求随模型规模变化,CPU 仅支持约 1B 以下小模型;小于约 1B 的模型效果较差;aggressive 可能损害连贯性;MoE 模型需用 nuclear;量化模型不能再次量化;推理模型建议用 surgical。具体收费、价格与效果数据暂未提供。