在python中,如果没有与scrapy或请求匹配的标头,如何发送?

在python中,如果没有与scrapy或请求匹配的标头,如何发送?,python,web-scraping,scrapy,if-none-match,Python,Web Scraping,Scrapy,If None Match,我正在用Scrapy抓取一个站点,但是它的一些API没有返回JSON数据,没有“if none match”头 我有超过100个API的列表,所以我想生成自动头来获取有效的JSON文件。任何人都知道如何处理这个问题,或者有任何其他方法来消除它 提前感谢。如果要为所有请求定义标题,可以使用: req = scrapy.Request(url, callback=self.parse, headers={'If-None-Match': '*'}) #settings.py 默认\u请求\u头={

我正在用Scrapy抓取一个站点,但是它的一些API没有返回JSON数据,没有“if none match”头

我有超过100个API的列表,所以我想生成自动头来获取有效的JSON文件。任何人都知道如何处理这个问题,或者有任何其他方法来消除它

提前感谢。

如果要为所有请求定义标题,可以使用:

req = scrapy.Request(url, callback=self.parse, headers={'If-None-Match': '*'})
#settings.py
默认\u请求\u头={
“接受”:“text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8”,
“接受语言”:“en”,
“如果没有匹配项”:“*”,
}
或个人要求:

req = scrapy.Request(url, callback=self.parse, headers={'If-None-Match': '*'})