Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/python/352.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
如何使用Scrapy和javascript更改来获取刮取的数据?_Javascript_Python_Web Scraping_Scrapy - Fatal编程技术网

如何使用Scrapy和javascript更改来获取刮取的数据?

如何使用Scrapy和javascript更改来获取刮取的数据?,javascript,python,web-scraping,scrapy,Javascript,Python,Web Scraping,Scrapy,Javascript隐藏了一些元素,但当我使用scrapy刮取数据时,这些元素被刮取,就好像它们没有被Javascript隐藏一样 链接1: 链接2: 例如: 当我使用Scrapy with xpath(//div[@id='productDetails']/ul[@class='details']/li[@id='add_to_cart_li']/a[@id='add_to_cart']]]/span[@class='buy-txt'])对这两个链接进行爬网时,我在两个链接中都得到了文本“

Javascript隐藏了一些元素,但当我使用scrapy刮取数据时,这些元素被刮取,就好像它们没有被Javascript隐藏一样


链接1: 链接2:


例如:
当我使用Scrapy with xpath(//div[@id='productDetails']/ul[@class='details']/li[@id='add_to_cart_li']/a[@id='add_to_cart']]]/span[@class='buy-txt'])对这两个链接进行爬网时,我在两个链接中都得到了文本“buy now”,即使其中一个链接不包含“buy now”文本。这是因为Javascript正在更改显示。Scrapy不会加载Javascript更改的内容。

不确定元素是如何隐藏的。看

如果您使用xpath来提取数据,那么类似以下()的内容会有所帮助。请注意传递链接,以了解如何对可见元素使用xpath


希望这能有所帮助。

您能更具体一点,并提供一个简单的例子吗?