用途:在 JavaScript/TypeScript 环境中本地运行 Hugging Face 模型,覆盖浏览器与 Node.js、Bun、Deno 等运行时,无需搭建 Python 服务端。
主要能力:提供 Pipeline API,将预处理、推理、后处理打包为一次调用;任务涵盖文本分类/情感分析、命名实体识别、问答、填空、摘要、翻译、文本生成、零样本分类等 NLP 任务,图像分类、目标检测、图像分割、深度估计等视觉任务,语音识别、音频分类、文本转语音等音频任务,以及图像转文本、文档问答等跨模态任务;feature-extraction 可生成句向量(配合 { pooling: 'mean', normalize: true })。支持手动使用 AutoTokenizer 与 AutoModel,并支持批量输入。
使用方式:安装 npm install @huggingface/transformers;浏览器可经 CDN 导入。用 pipeline('任务') 创建管道,如 const pipe = await pipeline('sentiment-analysis'),第二参数可指定模型 ID;以 { device: 'webgpu' } 启用 GPU,或用 { dtype: 'q4' } 等量化选项(fp32/fp16/q8/q4)。env 可控制远程/本地模型加载、文件系统与浏览器缓存、日志级别、自定义 fetch 请求头等;ModelRegistry(v4)可在加载前检查所需文件、缓存状态与可用 dtype。另有 @huggingface/tokenizers 支持独立分词。
适用场景:网页端与客户端推理、服务端 JS 运行时内的模型调用、需要本地化或不依赖 Python 服务的机器学习功能。
限制与注意事项:模型可能占用 100MB 至数 GB 内存/GPU 资源,使用完毕须调用 dispose();WebGPU 需浏览器支持,否则回退 WASM/CPU;内存受限时可选用更小或量化模型、降低批量与 max_length;模型须含 ONNX 文件;生产环境建议固定模型版本;部分细节(如具体收费、价格与效果指标)暂未提供。