用途:这是一个基于 Crawl4AI 的 SEO 爬虫技能,回答“页面实际包含什么、站点内部结构如何”,用于站点盘点、页面审计、内链与导航审计、落地页对比和竞品研究。它不替代 SERP 排名/可见度工具,而是补充内容与结构数据。
主要能力:站点盘点(URL、状态、title、H1、meta、canonical、字数);页面审计(空 title/H1、重复标题、canonical 异常、薄内容);内链审计(内链图、孤儿页、弱链接页);导航审计(面包屑、导航块、菜单一致性、弱枢纽页);落地页对比;竞品页面同流程对比。每页提取 on-page、导航与链接信号,links.ndjson 记录 source→target、锚文本、nofollow、同域标记。
使用方式:先运行 python3 scripts/doctor.py 检查 uv、Python、crawl4ai、playwright 与配置;未就绪时停在 seed/discovery,不要模拟抓取。主流程:python3 scripts/init_job.py --domain https://example.com --project client-a --label full-audit;python3 scripts/seed_urls.py --job-id <job_id>;uv run --script scripts/crawl_batch.py --job-id <job_id>;python3 scripts/build_navigation_report.py --seed-job-id <seed_job_id> --crawl-job-id <crawl_job_id> --report-dir reports/<project>/<label>;python3 scripts/compare_pages.py --job-id <job_id>。快速方式可省略 init,直接 seed_urls.py 加 crawl_batch.py。配置默认在 config/defaults.example.json,本地覆盖 config/defaults.json;站点专属参数通过 launch params 传入并写入 cache/jobs/<job_id>/resolved_config.json。
适用场景:全站审计、落地页审计、竞品分析、内链审计;可与 yandex-search-api、yandex-metrika、yandex-webmaster 配合,被阻断时可用 scrapedo-web-scraper 作为回退。
限制:资料未提供收费、价格、平台支持范围与效果数据;需 crawl4ai/playwright 环境就绪;输出仅预览与文件路径,完整数据在 job 文件中,建议用 rg、head、wc -l 分析 ndjson,避免重复启动浏览器。