用途:基于合作博弈论的 Shapley 值统一解释机器学习模型输出。技能覆盖计算任意模型类型的 SHAP 值、生成理解特征重要性的可视化、调试与验证模型行为、分析公平性与偏差,以及在生产中落地可解释 AI。适用于树模型(XGBoost、LightGBM、CatBoost、随机森林)、深度学习模型(TensorFlow、PyTorch、Keras)、线性模型和黑盒模型。
主要能力:提供解释器选择指引,如树模型用 shap.TreeExplainer(快速精确)、神经网络用 shap.DeepExplainer 或 shap.GradientExplainer、线性模型用 shap.LinearExplainer、其他模型用 shap.KernelExplainer(模型无关但较慢),不确定时用 shap.Explainer。支持瀑布图、蜂群图、条形图、散点图、力图、热力图等可视化,以及全局重要性与单样本预测分解。
使用方式:先选用合适的 explainer,再计算 SHAP 值,如解释器创建后调用 explainer(X_test) 得到包含 values、base_values、data 的对象,然后用 shap.plots.beeswarm、shap.plots.bar、shap.plots.waterfall、shap.plots.scatter、shap.plots.force 出图。技能还给出模型调试、特征工程、模型对比、公平性分析和生产部署等工作流,并建议用 50-1000 个代表样本作为背景数据,说明 SHAP 值具有可加性、公平性与一致性。
限制:KernelExplainer 与 PermutationExplainer 较慢;需注意模型输出类型(原始输出、概率或 log-odds),否则易误读单位;大数据集建议抽样或分批;SHAP 反映关联而非因果,需结合领域知识验证。具体安装与付费信息暂未提供。