Model Explainer 是 SpecWeave 提供的模型可解释性工具，用于解释黑盒模型为何做出特定预测、哪些特征最重要以及特征之间如何交互，适用于建立信任、调试模型、满足合规要求和发现潜在偏差。
主要能力包括：全局解释，如特征重要性和部分依赖图（PDP）；局部解释，如 SHAP 值和 LIME，用于解释单条预测；可视化输出，包括特征重要性条形图、SHAP 摘要图、SHAP 瀑布图、部分依赖图、ICE 图、力导向图和代理决策树；合规支持，如 GDPR 解释和公平性报告，可检测受保护属性的差异影响与特征偏差。
使用方式：通过 from specweave import explain_model 或 ModelExplainer 创建解释器，传入 model、X_train、feature_names 和 increment 等参数，调用 feature_importance()、partial_dependence()、explain_prediction()、lime_explanation()、generate_all_reports()、gdpr_explanation()、fairness_report() 等方法。也可使用命令 /ml:explain-model 0042、/ml:explain-prediction --increment 0042 --sample sample.json、/ml:fairness-check 0042。生成结果可包含 feature-importance.png、shap-summary.png、pdp-plots/、local-explanations/ 和 explainability-report.md。
适用场景包括欺诈检测、贷款审批等需要解释预测理由的领域。限制方面，资料未提供具体安装步骤、依赖版本、支持模型类型、性能数据或收费信息。