SuperAPI AI 工具集

labeling-patterns

设计与创作

查看项目

更新于 10-16 10:22

技能介绍

用途:为可扩展的标注流水线提供可复用的代码模式,覆盖标注规范设计、采样策略、弱监督、质量监控与标错检测。

主要能力与用法:

  1. 标注指南设计:定义任务、标签体系(含定义与示例)、边界案例决策树、裁决流程。示例给出 POSITIVE 标签的 Include/Exclude/Edge case 写法。
  2. 主动学习采样循环:uncertainty_sample 做最小置信度采样,core_set_sample 做嵌入空间贪心 k-center 核心集选择;用法为先不确定性阶段 500 条、再多样性阶段 500 条。
  3. Snorkel 弱监督:用 @labeling_function 定义关键词、评分字段、否定模式等 LF,经 PandasLFApplier 应用、LFAnalysis 分析覆盖度与冲突、LabelModel 训练得到概率标签。
  4. IAA 测量:iaa_report 按标注者对两两计算 Cohen's kappa,阈值 κ>0.80 生产可用,0.60–0.80 需复查指南,<0.60 应修订指南且不得用于训练。
  5. 金标注入:inject_gold_labels 按比例混入已知答案条目(对标注者隐藏),compute_annotator_accuracy 统计准确率。
  6. Cleanlab 纠错:find_label_issues 与 get_label_quality_scores 基于交叉验证的样本外预测概率定位疑似错标,流程为交叉验证取概率、运行检测、人工复核 top-N、修正后重训。

限制与反模式:高 IAA 不等于高质量,需用金标验证;主动学习策略须与随机采样在相同预算下对比;不要用 LF 多数投票直接训练,应使用 LabelModel 或加权;指南需版本化;注意标注者疲劳(约 1 小时后准确率下降);金标集需匹配生产标签分布。资料未提供工具安装命令、定价或平台支持信息。