用途:覆盖数据集创建与整理的全生命周期,面向机器学习与LLM任务,包括schema设计、采集策略、质量过滤、去重、类别不平衡缓解、分层train/val/test划分、标注指南编写和数据集卡片文档。
主要能力:定义数据集schema(字段、类型、必填项、允许值与示例);用哈希做精确去重、MinHash/LSH做近似去重;处理类别不平衡(过采样SMOTE、欠采样或调整损失权重);按标签进行分层划分并避免实体跨集泄漏;计算标注者间一致性(Cohen's kappa或Krippendorff's alpha);用cleanlab等检测标签噪声;审计偏差与覆盖缺口;按Hugging Face格式编写数据集卡片。
使用方式:先写schema再采集;记录来源、日期、许可与采样决策;用2-3名标注者在50条样本上试点标注指南;逐级过滤并记录移除数量,保留原始快照;去重时目标删除重叠超过80%的项;按80/10/10或70/15/15分层划分,测试集冻结;对至少10%数据做双人标注并计算一致性;用datasketch做MinHash LSH。
适用场景:分类、抽取或生成任务的新数据集设计;训练前清洗去重;人工或LLM辅助标注规划;审计已有数据集质量与偏差;合并多数据源。
限制与不适用:不用于模型训练/微调、生产数据库SQL分析、实时数据管道/流式ETL、已部署LLM评测套件设计,以及网络爬虫或API数据采集。资料未提供具体收费、价格或平台信息。