在继续下一行之前,如何使草率的等待请求结果

在我的蜘蛛中,我有一些这样的代码:

next_page_url = response.follow(
    url=self.start_urls[0][:-1]+str(page_number+1),callback=self.next_page
)

if next_page_url:

next_page看起来像这样:

def next_page(self,response):
        next_page_count = len(<xpath I use>)
        if next_page_count > 0:
            return True
        else:
            return False

在继续下一段代码之前,需要设置next_page_url。 这段代码实质上是出于某些文件写入目的检查当前页面是否为最后一页

wish4star 回答:在继续下一行之前,如何使草率的等待请求结果

我最终得到的答案是:

我没有检查下一页是否存在,然后继续当前请求,而是向该页面发出请求,检查是否收到响应,如果没有,我说上一页是最后一页

我是通过在scrapy的请求库(meta)中使用response.follow()关键字将当前页面的必要跟踪数据传递到新请求中来实现的

本文链接:https://www.f2er.com/3153839.html

大家都在问