Web Scraper 是 liranudi/openclaw-web-scraper 提供的网页抓取工具,由四个脚本组成,无需 API 密钥,输出默认均为 JSON。
用途:搜索网页、读取页面内容、维持浏览器会话以及下载文件,适合需要检索公开网页信息或提取正文文本的场景。
依赖与安装:需要 requests、beautifulsoup4、playwright(含 Chromium);PDF 文本提取可选 pdfplumber 或 PyPDF2。安装命令:pip install requests beautifulsoup4 playwright && playwright install chromium。
主要能力:
- 搜索:python3 scripts/google_search.py "query" --pages N --engine ENGINE,引擎可选 duckduckgo(默认)、brave、google,返回 {title, url, snippet} 列表,支持多页。
- 一次性读取页面:python3 scripts/read_page.py "https://url" [--max-chars N] [--visible] [--format json|markdown|text] [--no-dismiss],自动关闭 Cookie 同意横幅,可指定输出格式。
- 持久浏览器会话:通过 browser_session.py 的 open、navigate、extract、screenshot、click、search、tab new/list/switch/close、dismiss-cookies、close 等子命令操作页面、多标签、截图与页内搜索,打开或导航时自动处理 Cookie 同意。
- 下载文件:python3 scripts/download_file.py "https://example.com/doc.pdf" [--output DIR] [--filename NAME],自动识别文件名;若安装 pdfplumber 或 PyPDF2,可提取 PDF 文本,返回 {status, path, filename, size_bytes, content_type, extracted_text}。
限制:具体抓取效果、反爬绕过能力、收费与平台支持情况暂未提供;需自行遵守目标站点使用条款与法律要求。