用途：为AI模型预测与行为提供人类可理解的解释，弥合复杂“黑箱”模型与人类理解之间的差距。可解释性有助于建立信任、满足GDPR与EU AI Act等合规要求、调试模型错误与偏差、检测歧视模式、理解失效模式并从学习模式中提取洞见。
主要能力：分为全局解释（整体模型行为）与局部解释（单个预测）；模型无关方法（SHAP、LIME）与模型特定方法（注意力图、梯度法）。SHAP基于博弈论为每个特征分配重要性，支持树模型、深度学习、瀑布图、交互值。LIME用可解释模型局部近似，支持表格、图像、文本。注意力机制可视化Transformer关注区域，支持多头注意力。梯度法包括显著性图、Grad-CAM、积分梯度。反事实解释用DiCE生成改变预测的替代场景。内在可解释模型包括决策树可视化、线性模型系数、GAM/ExplainableBoostingClassifier。特征重要性含排列重要性与部分依赖图。
使用方式：资料给出Python代码示例，涉及shap、lime、matplotlib、seaborn、torch、sklearn、interpret、dice_ml等库。例如SHAP用shap.TreeExplainer(model)与shap_values=explainer.shap_values(X_test)；LIME用lime_tabular.LimeTabularExplainer与explain_instance；Grad-CAM通过注册前向与反向钩子生成CAM；DiCE用Dice(data, model_dice).generate_counterfactuals。
适用场景：需要解释模型决策的机器学习项目，包括合规审计、公平性检测、模型调试、科学发现与生产环境解释服务。
限制：资料未提供具体安装命令、收费、价格、平台或效果数据；部分代码示例不完整（如随机森林特征重要性部分截断）。最佳实践建议按受众定制解释、提供多种解释类型、包含不确定性，并验证解释的领域合理性与稳定性，生产环境可缓存解释、按需提供并记录审计日志。工具包括SHAP、LIME、InterpretML、Captum、Alibi。