这是一个通用的爬虫, 整站下载工具, 可以下载包括页面, 图片, css样式及js文件的所有资源, 并存储到本地指定目录下.
python版本: 3.7
- 指定抓取深度(0为不限深度, 1为只抓取单页面)
- 可以通过配置指定不下载图片, css, js或字体等资源
- 设置黑名单以屏蔽指定链接的资源
完成后可以通过仓库中的docker-compose.yml启动一个nginx容器从本地访问.
注意: 本工具只能下载静态页面, 对于通过js动态加载的内容无能为力(比如bilibili), 一般只限于文章, 图片, 新闻资讯等网站.
安装依赖
pip install -r requirements.txt
修改main.py入口程序, 主要是两个配置项
- main_url: 目标网站主页
- max_depth: 抓取深度
其他配置项见crawler/config.py.
同类的golang版本见
实现逻辑相同.
效果截图
