SuperAPI AI 工具集

image-scraper

数据与分析

查看项目

更新于 10-17 13:46

技能介绍

Image Scraper 用于从给定的单个 URL 抓取页面上的图片并下载到本地。它适合需要批量保存某篇文章、某个页面配图的场景。工具提供三种方法:方法一为 python3 零依赖方案,解析 HTML 中的 img 与 source 标签的 src 属性,去重并过滤非 http 链接,相对协议链接补全为 https,然后逐个下载,默认输出到 images 目录,文件命名为 img_000.jpg 这类格式;方法二为 curl 加 grep 的精简方案,用正则在页面中提取常见图片扩展名的链接,去重后下载;方法三为浏览器自动化回退,在页面由 JavaScript 渲染或方法一失败时,用浏览器的 evaluate 执行脚本收集 document.querySelectorAll('img') 的 src,再逐个下载。使用方式为通过命令行传入目标 URL,例如 python3 /path/to/image-scraper.py "https://example.com/article"。工具建议先尝试方法一,遇到 403 或被拦截时补充 Referer、Accept 等请求头,JavaScript 渲染或付费墙页面则使用方法三,并始终打印下载文件的路径。输出方面,默认保存到 ./images/,按序号命名,并报告已下载的图片数量。限制方面,只下载指定 URL 页面的图片,不抓取整站;可选择性过滤宽度或高度小于 50px 的追踪像素和小图标;对 robots.txt 只是隐式尊重而无强制校验;Twitter/X 等 JS 渲染站点可能需要浏览器方法。