SuperAPI AI 工具集

Scrapegraph-ai

ScrapeGraphAI 是一个基于 AI 的 Python 爬虫库,利用 LLM 和直接图逻辑为网站及本地文档(XML、HTML、JSON、Markdown 等)创建抓取管道。用户只需说明想提取的信息,库即可自动完成抓取,无需编写复杂解析规则。支持多种 LLM(如 OpenAI、Groq、Azure、Gemini、MiniMax 及本地 Ollama 模型),并提供多版本管道以并行调用 LLM。可无缝集成 Langchain、Llama Index、Crew.ai 等 LLM 框架,以及 Pipedream、Bubble、Zapier、n8n、Dify 等低代码平台,同时提供 Python 和 Node.js SDK。该库为开源项目,采用 MIT 许可证,仅限数据探索和研究用途。

访问官网

工具介绍

ScrapeGraphAI 是一个基于 AI 的 Python 爬虫库,通过 LLM 和直接图逻辑为网站及本地文档创建抓取管道。用户只需用自然语言说明想提取的信息,库即可自动完成抓取。

主要能力

  • 支持从网站或本地文件(XML、HTML、JSON、Markdown 等)提取信息。
  • 提供多种标准抓取管道,最常用的是 SmartScraperGraph,可根据用户提示和源 URL 从单个页面提取信息。
  • 支持多页面信息提取、生成 Python 脚本,甚至生成音频文件。
  • 每个图都有对应的多版本,支持并行调用 LLM。
  • 可灵活切换不同 LLM,包括通过 API 使用 OpenAI、Groq、Azure、Gemini、MiniMax 等,或通过 Ollama 使用本地模型。

使用方式

  • 安装:可通过 PyPI 安装,建议在虚拟环境中安装以避免库冲突。官方未在资料中给出具体安装命令。
  • 使用本地模型需先安装 Ollama 并用 ollama pull 命令下载模型。
  • 基本用法:指定用户提示和源 URL,调用相应管道即可,输出为字典格式。
  • 支持集成主流框架和平台:LLM 框架如 Langchain、Llama Index、Crew.ai、Agno、CamelAI;低代码框架如 Pipedream、Bubble、Zapier、n8n、Dify、Toolhouse;还提供 MCP server。

适用场景

  • 数据探索和研究用途。
  • 需要从网页或本地文档中按自然语言指令提取结构化信息。
  • 希望使用本地 LLM 实现自托管、控制成本或满足数据驻留要求的场景。

限制

  • 官方声明仅限数据探索和研究用途,不对误用负责。
  • 开源库需自行管理浏览器、代理和扩展。
  • 具体收费、价格、性能效果等未在资料中提供。

开源与托管 API ScrapeGraphAI 提供两种形式:可自行运行的开源库,以及通过 Python 和 JS/TS SDK 使用的托管云 API。开源库适合需要完全控制、本地/自托管数据、本地 LLM 或精细成本调整且能自行管理基础设施的用户;托管 API 适合希望零基础设施、托管 JS 渲染与反爬、内置爬取和定时监控任务,并快速上线的用户,按积分计费。

其他信息

  • 项目采用 MIT 许可证。
  • 提供 Python SDK(https://github.com/ScrapeGraphAI/scrapegraph-py)和 JS/TS SDK(https://github.com/ScrapeGraphAI/scrapegraph-js)。
  • API 文档:https://docs.scrapegraphai.com/introduction
  • 收集匿名使用指标,可通过设置环境变量 SCRAPEGRAPHAI_TELEMETRY_ENABLED=false 退出。
  • 提供代理优惠码:SCRAPEGRAPH35(移动和住宅代理 35% 折扣)、SCRAPEGRAPH40(ISP/静态代理 40% 折扣)。