在python中,如果没有与scrapy或请求匹配的标头,如何发送?
我正在用Scrapy抓取一个站点,但是它的一些API没有返回JSON数据,没有“if none match”头 我有超过100个API的列表,所以我想生成自动头来获取有效的JSON文件。任何人都知道如何处理这个问题,或者有任何其他方法来消除它 提前感谢。如果要为所有请求定义标题,可以使用:在python中,如果没有与scrapy或请求匹配的标头,如何发送?,python,web-scraping,scrapy,if-none-match,Python,Web Scraping,Scrapy,If None Match,我正在用Scrapy抓取一个站点,但是它的一些API没有返回JSON数据,没有“if none match”头 我有超过100个API的列表,所以我想生成自动头来获取有效的JSON文件。任何人都知道如何处理这个问题,或者有任何其他方法来消除它 提前感谢。如果要为所有请求定义标题,可以使用: req = scrapy.Request(url, callback=self.parse, headers={'If-None-Match': '*'}) #settings.py 默认\u请求\u头={
req = scrapy.Request(url, callback=self.parse, headers={'If-None-Match': '*'})
#settings.py
默认\u请求\u头={
“接受”:“text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8”,
“接受语言”:“en”,
“如果没有匹配项”:“*”,
}
或个人要求:
req = scrapy.Request(url, callback=self.parse, headers={'If-None-Match': '*'})