gevent-crawler 一个爬虫程序,基于Gevent库 可同时运行多个抓取任务。 每个任务可以自定义设置最大并行下载数,http头等。 可自定义个任务的运行时间 依赖的第三方库: gevent lxml pymomgo