用途:为 LLM 训练准备高质量数据,可从网页抓取(如 Common Crawl)等来源整理数据,并支持多模态数据集。
主要能力:文本质量过滤(内置 30 多种启发式过滤器,如词数、重复行、URL 比例等);去重,含精确去重、模糊去重(MinHash + LSH)、语义去重(基于嵌入与余弦相似度);PII 脱敏;质量分类器过滤。多模态方面支持图像(美学评分、NSFW 检测、CLIP 嵌入)、视频(场景检测、片段提取、嵌入)与音频(ASR、WER 过滤、时长过滤)。官方称模糊去重比 CPU 快 16 倍,并支持多 GPU 近线性扩展。
使用方式:以 pip 安装,如 uv pip install "nemo-curator[text_cuda12]"(全模态为 all_cuda12,CPU 为 cpu)。典型流程为加载数据为 DocumentDataset,依次应用过滤器、去重模块与修改器,最后 to_parquet 保存。可用 get_client(cluster_type="gpu", n_workers=8) 或 LocalCUDACluster 做分布式处理。输入支持 Parquet、JSONL、CSV,输出推荐 Parquet,多模态可用 WebDataset TAR。
适用场景:LLM 训练数据预处理、网页抓取数据清洗、多模态数据整理、大规模 GPU 集群数据处理。
限制:GPU 版本需要 CUDA 环境;CPU 模式速度较慢;资料未提供具体平台要求、价格与许可之外的更多细节,部分内容暂未提供。