SuperAPI AI 工具集

ai-bias-special-category

数据与分析

查看项目

更新于 10-16 01:30

技能介绍

用途:该技能为处理或推断 GDPR 第 9 条特殊类别数据(种族、民族、政治观点、宗教、工会成员、基因、生物特征、健康、性取向)及欧盟平等法特征(性别、年龄、残疾)的 AI 系统,提供偏见检测、度量与缓解的方法论,并满足 GDPR 与 AI 法案的文档义务。AI 法案第 10 条要求高风险 AI 训练数据治理解决偏见,第 5 条禁止 AI 社会评分。

主要能力:说明直接处理特殊类别数据的偏见风险及常见示例;指出从邮编、姓名、浏览与购买历史、语言模式、设备使用等非敏感特征代理推断特殊类别数据同样构成特殊类别数据处理;列出群体公平性指标(人口均等、机会均等、均等机会、校准、预测均等)与个体公平性指标(一致性、反事实公平、因果公平),并按招聘、信贷、犯罪风险、医疗、内容审核等场景给出指标选择建议;给出偏见检测三阶段方法(数据审计、模型测试、输出分析);归纳预处理、处理中、后处理三类缓解策略及权衡;列出 AI 法案第 10 条对训练数据相关性、代表性、错误、完整性、统计属性与偏见审查的要求及第 10(5) 条特殊类别数据用于偏见检测的条件;提供偏见评估报告章节框架;列举荷兰 SyRI、意大利 Deliveroo、奥地利 AMS 等执法先例及 AEPD、CNIL 相关指引;并说明与 DPIA、自动化决策、训练合法性、透明度要求、高风险文档等模块的衔接点。资料提示人口均等、机会均等与校准在基率不同时无法同时满足,需明确记录权衡。

使用方式与限制:资料未提供具体安装命令或调用步骤,暂未提供。适用场景为合规评估、模型公平性测试与文档编制。该技能不替代法律意见,指标选择与缓解效果须结合具体部署环境评估。