SuperAPI AI 工具集

firecrawl

Firecrawl 是一个开源项目,同时提供托管服务,用于将整个网站转换为适合大语言模型(LLM)使用的 Markdown 或结构化数据。它覆盖约 96% 的网页(包括大量依赖 JavaScript 的页面),P95 延迟约 3.4 秒,输出干净 Markdown、结构化 JSON、截图等,减少 token 消耗。它处理轮换代理、编排、速率限制、JS 阻塞内容等复杂问题,无需配置。可通过一条命令接入任意 AI 智能体或 MCP 客户端,支持解析网页托管的 PDF、DOCX 等媒体,并可在提取内容前执行点击、滚动、输入、等待、按键等操作。项目采用 AGPL-3.0 许可,SDK 和部分 UI 组件采用 MIT 许可。

访问官网

工具介绍

Firecrawl 是一个开源项目,同时提供托管服务,目标是“为超级智能构建库”,用来自网络及更广来源的数据增强 AI 智能体。

用途 Firecrawl 用于把整个网站转换为适合大语言模型(LLM)使用的 Markdown 或结构化数据。它面向需要实时网络数据的 AI 智能体和动态应用,帮助减少 token 消耗、构建更好的 AI 应用。

主要能力

  • 行业领先的可靠性:覆盖 96% 的网页,包括大量依赖 JavaScript 的页面,无需处理代理问题,直接获得干净数据(官方提供基准测试)。
  • 速度:在数百万页面上 P95 延迟为 3.4 秒,面向实时智能体和动态应用。
  • LLM 就绪输出:干净的 Markdown、结构化 JSON、截图等。
  • 处理复杂问题:轮换代理、编排、速率限制、JS 阻塞内容等,零配置。
  • 智能体就绪:可通过一条命令将 Firecrawl 连接到任意 AI 智能体或 MCP 客户端。
  • 媒体解析:解析并提取网页托管的 PDF、DOCX 等内容。
  • 操作(Actions):在提取内容前执行点击、滚动、输入、等待、按键等操作。
  • 开源:透明协作开发,可加入社区。

功能概览

  • 搜索网络并从结果中获取完整内容。
  • 从任意网站获取 LLM 就绪数据:Markdown、JSON、截图等。
  • 抓取页面后,使用 AI 提示或代码与其交互。
  • 爬取整个网站并获取所有页面的内容(返回 job ID;SDK 会自动轮询)。
  • 即时发现网站上的所有 URL,也可查找站内特定 URL。
  • 一次抓取多个 URL。
  • Agent:描述所需内容,AI 智能体会搜索、导航并检索,无需提供 URL。Agent 是 /extract 端点的演进版本,更快、更可靠,且不需要预先知道 URL。可使用 schema 获取结构化数据、将 agent 聚焦到特定页面、设置推理投入程度。每次 agent 运行都使用 spark-2 模型(默认),无需设置 model;已退役的 spark-1-pro 和 spark-1-mini 名称仍被接受以保持向后兼容,但已弃用并运行 spark-2。

使用方式

  • 在 firecrawl.dev 注册获取 API key,并可在 playground 中试用。
  • 通过 SDK 使用全部功能,SDK 会自动处理异步操作的轮询。安装 SDK 后,按对应语言添加依赖(Gradle/Maven 等)。
  • 接入智能体:安装后重启智能体,支持 Claude Code、Antigravity、OpenCode 等;任何兼容 MCP 的客户端可在数秒内连接网络。
  • 智能体引导:AI 智能体可获取 skill 来为用户注册、获取 API key 并开始使用 Firecrawl。
  • 技能目录:Firecrawl Skills Catalog 可通过 npx skills add firecrawl/skills 安装。构建类技能(将 Firecrawl 集成到产品代码)在本仓库 skills/ 下编写,并由 CI 镜像到目录;CLI 技能(包括 research/developer 索引技能)提交到 firecrawl/cli;构建/SDK 技能提交到本仓库(skills/);工作流技能提交到 firecrawl/firecrawl-workflows。目录(firecrawl/skills)为只读,不要直接向其提交 PR。
  • 本地运行参见 Contributing Guide;自托管参见 Self-Hosting Guide。

适用场景

  • 为 AI 智能体提供实时网络数据。
  • 将网站内容转换为 LLM 可用的 Markdown 或结构化 JSON。
  • 需要抓取 JS 密集型页面、批量抓取多个 URL、爬取整站或发现站点 URL 的场景。
  • 需要从网页托管的 PDF、DOCX 等媒体中提取内容。
  • 需要在提取前与页面交互(点击、滚动、输入、等待、按键)。

限制与说明

  • 开源版本采用 AGPL-3.0 许可;SDK 和部分 UI 组件采用 MIT 许可,具体见各目录 LICENSE 文件。
  • 云端版本 firecrawl.dev 包含额外功能(官方未在给定资料中列出具体内容)。
  • 用户需自行遵守网站政策、隐私政策和使用条款;默认情况下 Firecrawl 尊重 robots.txt 指令。
  • 关于具体收费、价格、平台支持范围等,资料中暂未提供。