Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/python/305.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181

Warning: file_get_contents(/data/phpspider/zhask/data//catemap/8/python-3.x/15.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Python <;a类=";页面按钮下一个插入ng star“&燃气轮机;下一步</a>;不包含href链接。如何在Scrapy中横切下一页?_Python_Python 3.x_Scrapy - Fatal编程技术网

Python <;a类=";页面按钮下一个插入ng star“&燃气轮机;下一步</a>;不包含href链接。如何在Scrapy中横切下一页?

Python <;a类=";页面按钮下一个插入ng star“&燃气轮机;下一步</a>;不包含href链接。如何在Scrapy中横切下一页?,python,python-3.x,scrapy,Python,Python 3.x,Scrapy,我想在网页上的“下一步”按钮后使用“刮擦”横切页面。但我发现下一步按钮所在的位置没有href链接。如果没有参考链接,我怎么做?所有的东西都应该在下一个。如何获得ref链接 Scrapy无法解释javascript。 您需要使用selenium单击并获取或单击链接 from selenium import webdriver class your_spider_name(Spider): name = 'xxx' allowed_domains = ['www.example.o

我想在网页上的“下一步”按钮后使用“刮擦”横切页面。但我发现下一步按钮所在的位置没有href链接。如果没有参考链接,我怎么做?所有的东西都应该在下一个。如何获得ref链接


Scrapy无法解释javascript。 您需要使用selenium单击并获取或单击链接

from selenium import webdriver

class your_spider_name(Spider):
    name = 'xxx'
    allowed_domains = ['www.example.org']
    start_urls = ['https://www.example.org']

    def __init__(self):
        self.driver = webdriver.Firefox()

    def parse(self,response):
            self.driver.get('https://www.example.org/example')

            while True:
                try:
                    next = self.driver.find_element_by_xpath('//*[@id="BTN_NEXT"]')
                    url = 'http://www.example.org/example'
                    yield Request(url,callback=self.parse2)
                    next.click()
                except:
                    break

            self.driver.close()

    def parse2(self,response):
        print 'you are here!'