PyreCrawl 是一个面向 AI 智能体的自托管网页浏览工具,以 MCP(Model Context Protocol)服务器形式提供。它将抓取(scrape)、提取(extract)、爬取(crawl)、站点地图(map)、搜索(search)、批量处理(batch)、研究(research)和网页监控(monitor)等能力整合为一个工具接口,供兼容 MCP 的智能体调用。项目定位为 Firecrawl 的免费替代方案,强调自托管、无需 API 密钥、无速率限制、无订阅。
主要能力与工具:PyreCrawl 通过 MCP 暴露多种工具,支持抓取、爬取、提取、map、search、batch、research 和 monitor 等操作。此外还提供 MCP 资源(只读状态,无需工具调用):pyrecrawl://cache/stats、pyrecrawl://sessions、pyrecrawl://monitors;以及 MCP 提示词(现成剧本):research(topic)、rag_ingest(site)、watch_page(url)。工具提供 prefer 选项:"auto"(默认阶梯)、"fast"(仅 HTTP)、"stealth"(Cloudflare 绕过)、"llm"(深度处理)。
智能回退阶梯:PyreCrawl 对每个请求运行三个层级,在第一个返回完整、LLM 就绪结果的层级停止,因此智能体无需自行选择,prefer="auto" 会在每次调用时自动完成。
动态 DOM 数据处理:部分网站将所需数据保存在 DOM 属性中(例如某个 <input> 的 .value),这些数据由 JS 在 XHR 之后写入,不会出现在序列化 HTML 中。scrape 工具为此接受两个 stealth 层级参数:wait_for(一个 JS 谓词表达式,被轮询直到为真,受 timeout 限制,用于处理异步到达的内容,避免猜测 sleep 时间);js(页面稳定后求值一次的 JS 表达式,返回值通过 meta.js_result 返回;错误会记录在 meta.js_error 中,页面结果仍会返回,不会崩溃)。
安装与使用:使用 UV(快速 Python 包管理器,可自行处理 Python,无需单独安装 Python)可获得一次性安装体验。先安装 UV,再直接运行 PyreCrawl(无需 venv、无需 pip install、无需下载 Python)。然后执行一次性浏览器引擎安装,安装 Chromium + stealth 浏览器引擎(约 2 分钟,一次性)。随后将 PyreCrawl 注册到 AI 智能体。支持的智能体包括 claude-desktop、claude-code、cursor、vscode、codex、opencode、hermes。安装并注册后,重启智能体(或开始新会话),即可用自然语言提问,例如“Scrape https://example.com and summarize it.”,无需特殊语法。
手动配置:若 pyrecrawl install 不匹配用户环境,可手动配置。Claude Desktop 的配置文件路径:Linux 为 ~/.config/Claude/claude_desktop_config.json;macOS 为 ~/Library/Application Support/Claude/claude_desktop_config.json;Windows 为 %AppData%\Claude\claude_desktop_config.json。Claude Code 使用项目级 .mcp.json。Cursor 使用 ~/.cursor/mcp.json。VS Code / Copilot 使用项目级 .vscode/mcp.json。Codex 使用 ~/.codex/config.toml。OpenCode 使用 ~/.config/opencode/opencode.json。Hermes 在 Linux/macOS 使用 ~/.hermes/config.yaml,在 Windows 使用 %LocalAppData%\hermes\config.yaml。Windows 注意事项:uvx 必须在 PATH 中;否则使用 uvx.exe 的完整路径(例如 C:\Users<you>\AppData\Local\hermes\bin\uvx.exe)。
技能(Skills):PyreCrawl 工具赋予智能体“手”(抓取、爬取、搜索),但智能体仍需要“大脑”——关于何时使用哪个工具、如何串联研究过程以及遵循哪些反幻觉规则的指令,这正是 PyreCrawl Skills 提供的内容。没有技能时,智能体拥有强大工具但即兴使用;有技能时,智能体遵循经过验证的研究协议与反幻觉护栏。
与托管版 Firecrawl 对比:项目提供了与托管版 Firecrawl 的对比说明(具体对比细节在给定资料中未完整展开)。
发布与更新:仅维护者可向 PyPI 发布(通过 GitHub Actions 构建并使用 trusted publishing 上传)。PyreCrawl 在每次启动时检查 PyPI 并报告最新版本;MCP 智能体可通过 health() 工具响应自动看到该信息,并可内联通知用户。也可手动检查。如需接收新版本通知,可在 GitHub 仓库点击 Watch → Releases only,以便在新版本发布时收到邮件通知。
隐私:PyreCrawl 在 MCP 服务器启动时每 24 小时发送一次匿名使用 ping,以便统计真实用户(DAU/MAU)而非原始下载量。客户端代码位于 src/pyrecrawl/telemetry.py(约 90 行,仅使用标准库);收集器位于 workers/telemetry/,是一个可自托管的 Cloudflare Worker + D1,不使用第三方分析服务。可随时选择退出。
许可:MIT,详见 LICENSE。
适用场景:需要为 AI 智能体提供网页抓取、爬取、搜索、研究与监控能力的自托管环境,尤其是希望避免 API 密钥、速率限制与订阅成本的用户。限制:具体收费、价格、性能指标、支持的网站范围等信息在给定资料中暂未完整提供。