如何使用Scrapy和javascript更改来获取刮取的数据?
Javascript隐藏了一些元素,但当我使用scrapy刮取数据时,这些元素被刮取,就好像它们没有被Javascript隐藏一样如何使用Scrapy和javascript更改来获取刮取的数据?,javascript,python,web-scraping,scrapy,Javascript,Python,Web Scraping,Scrapy,Javascript隐藏了一些元素,但当我使用scrapy刮取数据时,这些元素被刮取,就好像它们没有被Javascript隐藏一样 链接1: 链接2: 例如: 当我使用Scrapy with xpath(//div[@id='productDetails']/ul[@class='details']/li[@id='add_to_cart_li']/a[@id='add_to_cart']]]/span[@class='buy-txt'])对这两个链接进行爬网时,我在两个链接中都得到了文本“
链接1: 链接2:
例如:
当我使用Scrapy with xpath(//div[@id='productDetails']/ul[@class='details']/li[@id='add_to_cart_li']/a[@id='add_to_cart']]]/span[@class='buy-txt'])对这两个链接进行爬网时,我在两个链接中都得到了文本“buy now”,即使其中一个链接不包含“buy now”文本。这是因为Javascript正在更改显示。Scrapy不会加载Javascript更改的内容。不确定元素是如何隐藏的。看 如果您使用xpath来提取数据,那么类似以下()的内容会有所帮助。请注意传递链接,以了解如何对可见元素使用xpath
希望这能有所帮助。您能更具体一点,并提供一个简单的例子吗?