Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/python/342.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Python 使用xpath解析出不需要的数据_Python_Scrapy - Fatal编程技术网

Python 使用xpath解析出不需要的数据

Python 使用xpath解析出不需要的数据,python,scrapy,Python,Scrapy,我正在用刮痧刮一个网站。访问该网站后,我需要获取每个类别的id值,并使用该值重定向到JSON网页,在该网页中我需要获取数据。下图是HTML代码的部分快照,显示了我需要的类别及其值id号。我需要那个id值,这样我就可以将它插入这个url的末尾并重定向到那个url。”“我需要对所有类别都这样做。我有下面的代码,但现在使用xpath获取这些Id,但它一次返回整个Id列表,而不是一次返回一个。它给了我其他我不需要的数据 非常简单: for catetegory_id in response.xpat

我正在用刮痧刮一个网站。访问该网站后,我需要获取每个类别的id值,并使用该值重定向到JSON网页,在该网页中我需要获取数据。下图是HTML代码的部分快照,显示了我需要的类别及其值id号。我需要那个id值,这样我就可以将它插入这个url的末尾并重定向到那个url。”“我需要对所有类别都这样做。我有下面的代码,但现在使用xpath获取这些Id,但它一次返回整个Id列表,而不是一次返回一个。它给了我其他我不需要的数据

非常简单:

for catetegory_id in response.xpath('//select[@id="bl-category-options"]/option/@value').getall():
    yield scrapy.Request(
        url="http://www.starcitygames.com/buylist/search?search-type=category&id={category_id}".format(category_id=category_id),
        callback=self.parse_json_response,
    )
for catetegory_id in response.xpath('//select[@id="bl-category-options"]/option/@value').getall():
    yield scrapy.Request(
        url="http://www.starcitygames.com/buylist/search?search-type=category&id={category_id}".format(category_id=category_id),
        callback=self.parse_json_response,
    )