Firecrawl 是一个开源项目,同时提供托管服务,目标是“为超级智能构建库”,用来自网络及更广来源的数据增强 AI 智能体。
用途 Firecrawl 用于把整个网站转换为适合大语言模型(LLM)使用的 Markdown 或结构化数据。它面向需要实时网络数据的 AI 智能体和动态应用,帮助减少 token 消耗、构建更好的 AI 应用。
主要能力
- 行业领先的可靠性:覆盖 96% 的网页,包括大量依赖 JavaScript 的页面,无需处理代理问题,直接获得干净数据(官方提供基准测试)。
- 速度:在数百万页面上 P95 延迟为 3.4 秒,面向实时智能体和动态应用。
- LLM 就绪输出:干净的 Markdown、结构化 JSON、截图等。
- 处理复杂问题:轮换代理、编排、速率限制、JS 阻塞内容等,零配置。
- 智能体就绪:可通过一条命令将 Firecrawl 连接到任意 AI 智能体或 MCP 客户端。
- 媒体解析:解析并提取网页托管的 PDF、DOCX 等内容。
- 操作(Actions):在提取内容前执行点击、滚动、输入、等待、按键等操作。
- 开源:透明协作开发,可加入社区。
功能概览
- 搜索网络并从结果中获取完整内容。
- 从任意网站获取 LLM 就绪数据:Markdown、JSON、截图等。
- 抓取页面后,使用 AI 提示或代码与其交互。
- 爬取整个网站并获取所有页面的内容(返回 job ID;SDK 会自动轮询)。
- 即时发现网站上的所有 URL,也可查找站内特定 URL。
- 一次抓取多个 URL。
- Agent:描述所需内容,AI 智能体会搜索、导航并检索,无需提供 URL。Agent 是 /extract 端点的演进版本,更快、更可靠,且不需要预先知道 URL。可使用 schema 获取结构化数据、将 agent 聚焦到特定页面、设置推理投入程度。每次 agent 运行都使用 spark-2 模型(默认),无需设置 model;已退役的 spark-1-pro 和 spark-1-mini 名称仍被接受以保持向后兼容,但已弃用并运行 spark-2。
使用方式
- 在 firecrawl.dev 注册获取 API key,并可在 playground 中试用。
- 通过 SDK 使用全部功能,SDK 会自动处理异步操作的轮询。安装 SDK 后,按对应语言添加依赖(Gradle/Maven 等)。
- 接入智能体:安装后重启智能体,支持 Claude Code、Antigravity、OpenCode 等;任何兼容 MCP 的客户端可在数秒内连接网络。
- 智能体引导:AI 智能体可获取 skill 来为用户注册、获取 API key 并开始使用 Firecrawl。
- 技能目录:Firecrawl Skills Catalog 可通过 npx skills add firecrawl/skills 安装。构建类技能(将 Firecrawl 集成到产品代码)在本仓库 skills/ 下编写,并由 CI 镜像到目录;CLI 技能(包括 research/developer 索引技能)提交到 firecrawl/cli;构建/SDK 技能提交到本仓库(skills/);工作流技能提交到 firecrawl/firecrawl-workflows。目录(firecrawl/skills)为只读,不要直接向其提交 PR。
- 本地运行参见 Contributing Guide;自托管参见 Self-Hosting Guide。
适用场景
- 为 AI 智能体提供实时网络数据。
- 将网站内容转换为 LLM 可用的 Markdown 或结构化 JSON。
- 需要抓取 JS 密集型页面、批量抓取多个 URL、爬取整站或发现站点 URL 的场景。
- 需要从网页托管的 PDF、DOCX 等媒体中提取内容。
- 需要在提取前与页面交互(点击、滚动、输入、等待、按键)。
限制与说明
- 开源版本采用 AGPL-3.0 许可;SDK 和部分 UI 组件采用 MIT 许可,具体见各目录 LICENSE 文件。
- 云端版本 firecrawl.dev 包含额外功能(官方未在给定资料中列出具体内容)。
- 用户需自行遵守网站政策、隐私政策和使用条款;默认情况下 Firecrawl 尊重 robots.txt 指令。
- 关于具体收费、价格、平台支持范围等,资料中暂未提供。