SuperAPI AI 工具集

crawl4ai

通用与其它

查看项目

更新于 10-16 03:03

技能介绍

用途:Crawl4AI 用于网页爬取与数据提取,支持快速命令行任务和程序化控制。安装:pip install crawl4ai,然后运行 crawl4ai-setup,可用 crawl4ai-doctor 验证。

主要能力:每次爬取返回 markdown、html、links、media,以及配置提取后的 extracted_content。支持 Markdown 生成与内容过滤(如 BM25 相关性过滤),支持基于 CSS schema 的确定性提取(无需 LLM)和基于 LLM 的提取,支持 JavaScript 较重页面的等待与滚动、多 URL 处理、会话与登录认证、代理与反检测配置。

使用方式:CLI 示例 crwl https://example.com -o markdown;JSON 输出 crwl https://example.com -o json -v --bypass-cache。Python SDK 使用 AsyncWebCrawler 的 arun 或 arun_many。配置分为浏览器设置(BrowserConfig)、爬取设置(CrawlerRunConfig)、提取策略和内容过滤器。

适用场景:文档转 Markdown、电商商品监控、新闻聚合、Google 搜索抓取、交互式问答等。

限制:资料未提供具体收费、价格、平台支持范围或效果保证;使用时应遵守目标网站速率限制,必要时添加请求间隔。