AI Ethics 是一个综合性 AI 伦理技能，覆盖偏见检测、公平性评估、负责任 AI 开发以及法规合规。以下按其用途、主要能力、使用方式、适用场景和限制进行整理。
用途 该技能用于在 AI 开发与评估过程中引入伦理考量。资料明确指出，在以下情况使用：评估 AI 模型的偏见；实施公平性措施；开展伦理影响评估；确保法规合规（如欧盟 AI 法案等）；设计人类参与（human-in-the-loop）系统；创建 AI 透明度文档；制定 AI 治理框架。
主要能力
- 伦理原则：列出核心原则，包括公平性（AI 不应歧视个人或群体）、透明度（AI 决策应可解释）、隐私（个人数据必须受到保护）、问责（对 AI 结果有明确责任）、安全（AI 不应造成伤害）、人类能动性（人类应保持控制）。
- 利益相关方考量：关注用户（对使用系统的人有何影响）、主体（对 AI 做出决策所涉及的人有何影响）、社会（更广泛的社会影响）、环境（环境影响）。
- 偏见检测与缓解：归纳偏见类型，包括历史偏见（训练数据反映过去歧视，如招聘模型偏向男性候选人）、代表性偏见（训练数据中群体代表性不足，如人脸识别在深色皮肤上失败）、测量偏见（受保护属性的代理变量，如邮政编码与种族相关）、聚合偏见（对多元人群使用单一模型，如仅在一个族裔上训练的医疗模型）、评估偏见（有偏的评估指标，如准确率掩盖差别影响）。
- 公平性度量：群体公平包括人口统计均等（各组间正例率相等）、均等机会（各组间真阳性率与假阳性率相等）、预测均等（各组间精确率相等）；个体公平包括相似个体应获得相似预测、反事实公平（若受保护属性不同，结果是否会改变）。
- 偏见缓解策略：预处理（重采样/重加权训练数据、移除有偏特征、为代表性不足群体做数据增强）；处理中（损失函数中的公平性约束、对抗性去偏、公平表示学习）；后处理（按组调整阈值、校准、拒绝选项分类）。
- 可解释性与透明度：解释类型包括全局（面向开发者，理解模型整体行为）、局部（面向终端用户，解释具体决策）、反事实（面向受影响方，需要改变什么才能得到不同结果）。可解释性技术包括 SHAP（特征重要性值）、LIME（局部可解释解释）、注意力图（用于神经网络）、决策树（本身可解释）、特征重要性（全局模型理解）。模型卡需记录每个模型：模型目的与预期用途、训练数据说明、按子组的性能指标、局限性与伦理考量、版本与更新历史。
- AI 治理：AI 风险评估按欧盟 AI 法案分为风险等级——不可接受（社会评分、操纵，禁止）、高风险（医疗、就业、信贷，严格要求）、有限风险（聊天机器人，透明度义务）、最小风险（垃圾邮件过滤器，无要求）。治理框架包含政策（定义伦理原则与边界）、流程（审查与批准工作流）、人员（角色与职责，如伦理委员会）、技术（监控与执行工具）。文档要求包括数据来源与血缘、模型训练文档、测试与验证结果、部署与监控计划、事件响应程序。
- 人类监督：人类参与模式包括 human-in-the-loop（高风险决策，如医疗诊断确认）、human-on-the-loop（监控并可干预，如内容审核升级）、human-out-of-loop（低风险、高容量，如垃圾邮件过滤）。为人类控制而设计需有清晰的升级路径、覆盖能力、自动化置信度阈值、审计轨迹、反馈机制。
- 隐私考量：数据最小化（仅收集必要数据、尽可能匿名化、聚合而非个体数据、不再需要时删除数据）；隐私保护技术包括差分隐私、联邦学习、安全多方计算、同态加密。
- 环境影响：考虑训练算力需求、推理能耗、硬件生命周期、数据中心能源来源；缓解措施包括高效架构、模型蒸馏、迁移学习、绿色托管提供商。
使用方式 资料提供了参考文件：references/bias_assessment.md（详细偏见评估方法）、references/regulatory_compliance.md（AI 监管要求）。该技能可与其他技能集成：machine-learning（用于模型开发）、testing（用于偏见测试）、documentation（用于模型卡）。资料未提供具体的安装命令或代码示例。
适用场景 适用于 AI 模型评估与审查、公平性措施落地、伦理影响评估、法规合规检查、透明度文档编写、AI 治理框架搭建、人类监督机制设计、隐私保护方案选择以及环境影响评估等场景。
限制 资料未说明该技能的具体执行环境、依赖版本、收费或价格、平台支持范围、效果保证或量化指标。上述内容均暂未提供。