Python Scrapy redirect_URL exception.KeyError

Python Scrapy redirect_URL exception.KeyError,python,scrapy,Python,Scrapy,我是Scrapy&Python的新手,最近发布了我的第一个蜘蛛。有一个功能,似乎已经工作过,虽然现在它只适用于一些网站,我正试图取消 代码行是: item['url_direct'] = response.request.meta['redirect_urls'] 我得到的错误是: exceptions.KeyError: 'redirect_urls' 我已经为此挣扎了一段时间,所以任何线索或希望更详细的答案将非常感谢。(在此处或web上未找到类似问题)。因此,response.reque

我是Scrapy&Python的新手,最近发布了我的第一个蜘蛛。有一个功能,似乎已经工作过,虽然现在它只适用于一些网站,我正试图取消

代码行是:

item['url_direct'] = response.request.meta['redirect_urls']
我得到的错误是:

exceptions.KeyError: 'redirect_urls'

我已经为此挣扎了一段时间,所以任何线索或希望更详细的答案将非常感谢。(在此处或web上未找到类似问题)。

因此,
response.request.meta['redirect\u url']
由设置为请求在重定向时可能经过的任何URL

对于尚未重定向的请求,该代码将失败,并出现
KeyError

由于
response.request.meta
只是一个dict,您可以使用:

item['url_direct'] = response.request.meta.get('redirect_urls')
或者,您可以在设置之前进行检查:

if 'redirect_urls' in response.request.meta:
    item['url_direct'] = response.request.meta['redirect_urls']
另见:
  • (有关问题)

我无法对该评论投票,但它对我有帮助。谢谢