SuperAPI AI 工具集

huggingface-js

编程与开发

查看项目

更新于 10-16 00:29

技能介绍

用途:在浏览器或 Node.js 中运行机器学习模型,既可本地推理,也可调用托管模型。

主要能力:Transformers.js 基于 ONNX Runtime 在本地运行模型,支持文本生成、文本分类(情感)、特征提取(嵌入)、问答、翻译、语音识别(Whisper)、图像分类、目标检测、零样本分类等任务;Hugging Face Inference API 客户端可调用托管模型,支持文本生成、流式生成、对话补全、嵌入、文生图、图像分类、语音识别,并可通过 Inference Endpoints 使用专属托管模型。

使用方式:本地推理安装 npm install @huggingface/transformers,用 pipeline 加载任务与模型;托管调用安装 npm install @huggingface/inference,用 HfInference 或 InferenceClient 并传入 HF_ACCESS_TOKEN。浏览器可通过 CDN 引入,并可用 WebGPU 加速(device: 'webgpu')。可通过 env 配置缓存目录、本地模型路径、是否允许远程或本地模型。

适用场景:前端或 Node 端本地推理、嵌入与语义检索、语音转写、图像识别、Next.js 接口集成与流式响应等。

限制:资料未提供具体收费、价格与性能数据;本地推理建议选择小模型或量化 ONNX 模型,大模型建议使用 Inference API 或专属端点;使用托管服务需要访问令牌。