SuperAPI AI 工具集

tooluniverse-ml-inference-utility

智能体与模型

查看项目

更新于 10-19 04:11

技能介绍

用途

本技能是一组通用机器学习推理工具,用于对 HuggingFace 托管的模型执行标准推理任务。资料将其定位为辅助性技能:适合作为其他工作流中的支撑步骤,例如对一批检索到的摘要进行归类、从临床文本中抽取实体、为相似度检索生成句子嵌入,而不是把它当作独立的研究领域。

主要能力

技能包含 10 个 HFInference_* 工具,均需提供规范 model_id(HuggingFace 的 org/name 仓库标识,不能使用裸别名),接受可选的 wait_for_model 布尔参数以等待冷启动。返回结果或 {"error": "..."},使用前应先检查 error 字段。

  • HFInference_classify_text:文本分类/情感分析,需 text,返回 top_label 与各标签分数。
  • HFInference_embed_text:稠密文本嵌入,需 text,返回维度、嵌入向量与预览。
  • HFInference_fill_mask:掩码填充,需含模型掩码标记的 text。
  • HFInference_summarize:摘要,需 text,可选 max_length/min_length。
  • HFInference_zero_shot_classify:零样本分类,需 text 与 candidate_labels,可选 multi_label。
  • HFInference_ner:命名实体识别,需 text,返回实体数量与实体列表(含词、分数、起止位置)。
  • HFInference_question_answering:抽取式问答,需 question 与 context,返回答案及字符偏移。
  • HFInference_translate:翻译,需 text,语言对由所选模型决定。
  • HFInference_classify_image:图像分类,需 image_url 或 image_path 二者之一。
  • HFInference_detect_objects:物体检测,需 image_url 或 image_path 二者之一,返回标签、分数与边界框。

资料还列出若干常用 model_id 起点,涵盖通用情感、通用与生物医学嵌入、蛋白质嵌入与掩码语言模型、生物医学与临床文本掩码语言模型、基因组序列掩码语言模型、生物医学与通用 NER、摘要、零样本分类、抽取式问答、翻译、图像分类与物体检测等类别,并说明这些“已验证”状态来自工具作者而非本资料独立复核。

使用方式

  1. 先确认已设置 HF_TOKEN。资料强调这是最常见的失败点:无 token 时全部 10 个工具均返回 Unauthorized;无效或占位 token 也返回相同错误。因此需前往 https://huggingface.co/settings/tokens 创建免费 token(读取范围即可),未设置时应如实告知用户并停止,而不是猜测输出。
  2. 按任务选择对应工具与规范 model_id。
  3. 调用一次后先检查 error 字段。遇到 Unauthorized 应如实报告 token 或模型门控问题;遇到冷启动 503 可以 wait_for_model: true 重试一次。
  4. 只报告工具实际返回的分数、标签、片段或边界框,不得编造分类、嵌入、摘要或实体列表。

资料还提供三个无需 token 的 HuggingFace Hub 搜索工具,用于先找到或确认 model_id:HuggingFace_search_models(需 search,可选 limit、pipeline_tag、library)、HuggingFace_get_model(需 author 与 model_name 两个独立字段)、HuggingFace_search_datasets(需 search,可选 limit)。搜索宜用单词或短语,多词长句可能返回零结果。推荐流程是先用搜索工具确认 pipeline_tag、library_name、许可证与门控状态,再把 model_id 传入对应的 HFInference_* 工具。

另有两个 Replicate 平台工具:Replicate_run_prediction(需 input,并提供 model 或 version 之一)与 Replicate_get_prediction(需 prediction_id),均需 REPLICATE_API_TOKEN,注册地址为 https://replicate.com/account/api-tokens。资料仅验证了无 token 时的报错行为,未实际运行预测,也未记录其输出,模型与输入模式需以工具自身 JSON 描述为准。

适用场景

  • 对文本进行情感、主题或情绪分类。
  • 生成用于语义搜索或相似度打分的稠密嵌入,包括 PubMed 调优与蛋白质序列嵌入模型。
  • 预测掩码标记,包括 ESM2 蛋白质语言模型对氨基酸位置的预测;若需致病性评分,应优先使用专门的似然比工具而非原始 fill-mask。
  • 使用指定模型对段落做摘要。
  • 在无需重训练的情况下按调用方给定标签做零样本分类。
  • 从文本中抽取人物、组织、药物、疾病等命名实体。
  • 基于给定上下文做抽取式问答。
  • 使用语言对固定的模型进行翻译。
  • 对图片 URL 或本地路径做图像分类与物体检测。

限制

  • 实践中必须提供有效的 HuggingFace token,尽管工具 schema 将其标为可选。
  • 部分模型受门控限制,即使 token 有效也需在模型页接受许可;冷启动可能返回 503。
  • 仅调用已托管模型进行推理,不包含训练或微调。
  • 多源文献综述的综合与总结应交给调用模型自身的推理,而非单文档摘要工具。
  • 已有专用生物医学工具覆盖的任务应优先使用专用工具,将 HFInference_* 作为回退方案。
  • 资料在构建时无有效 HF_TOKEN,参数与响应文档来自 schema 而非成功调用;具体模型输出质量需用真实 token 复核。
  • Replicate 工具的真实预测输出未在资料中记录,不应假设其模型或输入模式。