SuperAPI AI 工具集

PyreCrawl

PyreCrawl 是一个面向 AI 智能体的自托管网页浏览工具,通过 MCP(Model Context Protocol)服务器为 AI 代理提供抓取、提取、爬取、站点地图、搜索、批量处理、研究与监控网页的能力。它无需 API 密钥、无速率限制、无订阅费用,被定位为 Firecrawl 的免费替代方案。支持 Claude、Cursor、VS Code、Codex、OpenCode、Hermes 等兼容 MCP 的智能体。其智能自动回退阶梯会始终选择能成功的最廉价方法,并内置 Cloudflare 绕过等分层回退机制。

访问官网

工具介绍

PyreCrawl 是一个面向 AI 智能体的自托管网页浏览工具,以 MCP(Model Context Protocol)服务器形式提供。它将抓取(scrape)、提取(extract)、爬取(crawl)、站点地图(map)、搜索(search)、批量处理(batch)、研究(research)和网页监控(monitor)等能力整合为一个工具接口,供兼容 MCP 的智能体调用。项目定位为 Firecrawl 的免费替代方案,强调自托管、无需 API 密钥、无速率限制、无订阅。

主要能力与工具:PyreCrawl 通过 MCP 暴露多种工具,支持抓取、爬取、提取、map、search、batch、research 和 monitor 等操作。此外还提供 MCP 资源(只读状态,无需工具调用):pyrecrawl://cache/stats、pyrecrawl://sessions、pyrecrawl://monitors;以及 MCP 提示词(现成剧本):research(topic)、rag_ingest(site)、watch_page(url)。工具提供 prefer 选项:"auto"(默认阶梯)、"fast"(仅 HTTP)、"stealth"(Cloudflare 绕过)、"llm"(深度处理)。

智能回退阶梯:PyreCrawl 对每个请求运行三个层级,在第一个返回完整、LLM 就绪结果的层级停止,因此智能体无需自行选择,prefer="auto" 会在每次调用时自动完成。

动态 DOM 数据处理:部分网站将所需数据保存在 DOM 属性中(例如某个 <input> 的 .value),这些数据由 JS 在 XHR 之后写入,不会出现在序列化 HTML 中。scrape 工具为此接受两个 stealth 层级参数:wait_for(一个 JS 谓词表达式,被轮询直到为真,受 timeout 限制,用于处理异步到达的内容,避免猜测 sleep 时间);js(页面稳定后求值一次的 JS 表达式,返回值通过 meta.js_result 返回;错误会记录在 meta.js_error 中,页面结果仍会返回,不会崩溃)。

安装与使用:使用 UV(快速 Python 包管理器,可自行处理 Python,无需单独安装 Python)可获得一次性安装体验。先安装 UV,再直接运行 PyreCrawl(无需 venv、无需 pip install、无需下载 Python)。然后执行一次性浏览器引擎安装,安装 Chromium + stealth 浏览器引擎(约 2 分钟,一次性)。随后将 PyreCrawl 注册到 AI 智能体。支持的智能体包括 claude-desktop、claude-code、cursor、vscode、codex、opencode、hermes。安装并注册后,重启智能体(或开始新会话),即可用自然语言提问,例如“Scrape https://example.com and summarize it.”,无需特殊语法。

手动配置:若 pyrecrawl install 不匹配用户环境,可手动配置。Claude Desktop 的配置文件路径:Linux 为 ~/.config/Claude/claude_desktop_config.json;macOS 为 ~/Library/Application Support/Claude/claude_desktop_config.json;Windows 为 %AppData%\Claude\claude_desktop_config.json。Claude Code 使用项目级 .mcp.json。Cursor 使用 ~/.cursor/mcp.json。VS Code / Copilot 使用项目级 .vscode/mcp.json。Codex 使用 ~/.codex/config.toml。OpenCode 使用 ~/.config/opencode/opencode.json。Hermes 在 Linux/macOS 使用 ~/.hermes/config.yaml,在 Windows 使用 %LocalAppData%\hermes\config.yaml。Windows 注意事项:uvx 必须在 PATH 中;否则使用 uvx.exe 的完整路径(例如 C:\Users<you>\AppData\Local\hermes\bin\uvx.exe)。

技能(Skills):PyreCrawl 工具赋予智能体“手”(抓取、爬取、搜索),但智能体仍需要“大脑”——关于何时使用哪个工具、如何串联研究过程以及遵循哪些反幻觉规则的指令,这正是 PyreCrawl Skills 提供的内容。没有技能时,智能体拥有强大工具但即兴使用;有技能时,智能体遵循经过验证的研究协议与反幻觉护栏。

与托管版 Firecrawl 对比:项目提供了与托管版 Firecrawl 的对比说明(具体对比细节在给定资料中未完整展开)。

发布与更新:仅维护者可向 PyPI 发布(通过 GitHub Actions 构建并使用 trusted publishing 上传)。PyreCrawl 在每次启动时检查 PyPI 并报告最新版本;MCP 智能体可通过 health() 工具响应自动看到该信息,并可内联通知用户。也可手动检查。如需接收新版本通知,可在 GitHub 仓库点击 Watch → Releases only,以便在新版本发布时收到邮件通知。

隐私:PyreCrawl 在 MCP 服务器启动时每 24 小时发送一次匿名使用 ping,以便统计真实用户(DAU/MAU)而非原始下载量。客户端代码位于 src/pyrecrawl/telemetry.py(约 90 行,仅使用标准库);收集器位于 workers/telemetry/,是一个可自托管的 Cloudflare Worker + D1,不使用第三方分析服务。可随时选择退出。

许可:MIT,详见 LICENSE。

适用场景:需要为 AI 智能体提供网页抓取、爬取、搜索、研究与监控能力的自托管环境,尤其是希望避免 API 密钥、速率限制与订阅成本的用户。限制:具体收费、价格、性能指标、支持的网站范围等信息在给定资料中暂未完整提供。