用途:当系统、算法或政策在不同人口或受保护群体间产生不同结果率,或被质疑存在偏见、歧视时,可用本技能进行公平性审计。适用于评分、排序、筛选机制的设计或复核,结果数据出现无法解释的差异,合规审查需要公平性文档,以及伦理分析提出的分配问题需要量化跟进。
主要能力与方法:核心原则是公平是一组相互竞争、多数在数学上不兼容的定义,审计需先点名适用定义。步骤包括:界定审计范围(决策类型、受影响人群、受保护属性、是否存在可辩护的标准答案);选择公平定义(人口统计均等、机会均等、预测均等、个体公平、反事实公平),并说明取舍;审计数据中的历史偏见、标签偏见、代表性缺口与代理变量;测量结果差异,计算接受率、分数分布与差异比,应用四五分之规则(比值低于0.8提示不利影响),检验统计显著性与校准;做交叉性分析(如种族×性别、年龄×残障),注意组级公平不代表子群公平;针对差异提出前处理、中处理、后处理三类缓解措施,并说明各自改善哪个指标、可能牺牲什么。
使用方式:按范围、数据审计、差异测量、交叉分析、缓解建议的流程执行,输出包含审计范围、数据发现、差异测量表、公平性违规、缓解建议与残余风险评估。可将公平标准与红线以伦理推理的契约格式传递给决策综合环节。
限制与常见陷阱:公平定义间存在冲突,选择属价值判断而非技术问题;指标比值在小样本上可能失真,需报置信区间并标注样本不足;需警惕公平性择樱桃、代理变量盲区、聚合公平掩盖子群伤害、一次性快照审计忽略系统漂移与反馈循环、以及虚假精度。资料未提供具体工具、价格、平台或安装命令。