用途:该技能面向机器学习数据标注(data annotation)流程的设计与管理,覆盖从任务规划到质量控制的完整标注循环。
主要能力:
- 标注流程设计:规划任务、编写 guidelines、小样本试点、全量扩展、持续质量监控与迭代改进。
- 任务类型覆盖:分类、目标检测(bounding boxes)、分割(像素级)、NER、情感分析、音频转写。
- 质量度量:使用 sklearn 的 cohen_kappa_score、fleiss_kappa 计算标注者间一致性(IAA),并用 precision、recall、f1、accuracy 对照 gold standard 评估;支持按窗口检测质量漂移(下降超过 5% 判定为漂移)。
- 工作流自动化:通过 label_studio_sdk 的 Client 创建项目、导入任务、导出标注;提供主动学习采样(不确定性策略、多样性策略)与模型更新流程。
- 标注者管理:新标注者资格测试(默认通过阈值 0.85)、绩效追踪(任务数、平均耗时、平均质量、每小时任务量)。
使用方式:资料给出的是 Python 类与函数示例,包括 calculate_agreement、AnnotationQualityMonitor、AnnotationPipeline、ActiveLearningAnnotation、AnnotatorOnboarding、AnnotatorPerformanceTracker 等,可按需集成到自有标注流水线中。
适用场景:需要构建或优化 ML 标注流程、制定标注规范、监控标注质量与标注团队绩效的团队。
限制:资料未提供具体安装命令、依赖版本、收费与价格信息;工具对比表中的成本、人力、ML 辅助等描述仅为资料原文,未给出确切价格。部分代码依赖 numpy、sklearn、label_studio_sdk、datetime 等库,实际使用需自行确认环境。