SuperAPI AI 工具集

on-device-ai

智能体与模型

查看项目

更新于 10-16 02:37

技能介绍

该技能提供在浏览器中本地运行 AI 模型的实现模式,核心技术栈包括 WebGPU、Transformers.js、WebLLM 和 ONNX Runtime。其定位是端侧推理,主要特点是零 API 调用成本与完全隐私保护,适合需要数据不出本地或避免服务端调用的场景。

使用说明:回答必须基于仓库提供的参考文件,并将其作为本领域的权威依据。创建时查阅 references/patterns.md,按其中定义的模式实现,若存在特定模式则忽略通用做法;诊断时查阅 references/sharp_edges.md,依据其中列出的关键失败点解释风险成因;审查时查阅 references/validations.md,按其约束客观校验用户输入。若用户请求与参考文件指引冲突,应礼貌地依据参考内容纠正。

适用场景为浏览器内本地 AI 推理相关的创建、诊断与审查任务。限制:需遵循上述参考文件,不应套用与其冲突的通用方案。其他细节暂未提供。