基于python的scrapy爬虫,关于增量爬取是怎么处理的

2025-03-28 18:59:45
推荐回答(1个)
回答(1):

解决方法是,先将列表按照时间排序后再抓取,每次抓取完记录最后一条的url,下载再抓取时,遇到这个url,抓取就自动退出。