Bias Detection Design 是一套用于设计审查工作流的方法，目标是发现并缓解 AI 输出中的偏见。资料说明，AI 系统会从训练数据中继承偏见，通过模式匹配将其放大，并嵌入到看似权威的输出中。偏见检测设计的作用，就是建立相应的工作流、流程和界面，帮助团队在用户遇到偏见之前找到并修复它。
一、AI 产品中的偏见类型 资料列出以下类型：
- 表征偏见（Representation bias）：某些群体在输出（图像、示例、人物设定）中被过度代表或代表不足。
- 性能偏见（Performance bias）：AI 对某些用户（语言、口音、文化背景）的表现优于其他用户。
- 框架偏见（Framing bias）：AI 以偏向某些视角的方式呈现信息。
- 分配偏见（Allocation bias）：AI 驱动的决策不均匀地分配资源或机会。
- 关联偏见（Association bias）：AI 以刻板印象的方式关联概念。
二、设计偏见检测工作流 资料强调，偏见检测是团队实践，而不是一次性审计，包括：
- 定期审查周期：安排对 AI 输出的周期性审查，寻找偏见模式。
- 多元化审查小组：纳入来自不同背景、文化和视角的审查者。
- 结构化评估：使用评分标准和清单，而不是凭直觉。
- 真实场景采样：用真实用户输入进行测试，而不仅是精心挑选的测试用例。
- 长期监测：随着使用模式变化，偏见可能随时间出现。
三、检测方法 资料给出以下方法：
- 对比测试：给 AI 相同的任务，但改变人口统计变量，比较输出。
- 边缘案例探索：测试来自代表不足群体或不寻常情境的输入。
- 输出审计：审查真实输出的样本，寻找偏见模式。
- 用户反馈分析：寻找与偏见相关的投诉或满意度差异。
- 基准评估：针对该领域已有的公平性基准进行测试。
四、从检测到缓解 资料指出，发现偏见只是第一步，处理偏见需要：
- 根因分析：偏见存在于训练数据、提示设计、模型架构还是产品设计中？
- 缓解选项：重新训练、调整提示、输出过滤、用户控制或设计变更。
- 权衡分析：修复一种偏见可能引入另一种偏见，需要记录这些权衡。
- 验证：缓解之后，验证修复有效且没有产生新问题。
五、设计产物 资料列出以下产物：
- 每个功能的偏见审计清单
- 审查小组构成指南
- 对比测试协议
- 偏见事件文档模板
- 缓解跟踪日志
关于该技能的具体安装方式、平台支持、收费模式、价格、实际效果或使用步骤，资料暂未提供。