Python Scrapy不在Xpath上获取数据
我对scrapy是新手,我尝试在下面的URL中获取审阅者的姓名 Url 1: 网址2: 我从scrapy shell中获取URL1 然后我就跑Python Scrapy不在Xpath上获取数据,python,xpath,scrapy,Python,Xpath,Scrapy,我对scrapy是新手,我尝试在下面的URL中获取审阅者的姓名 Url 1: 网址2: 我从scrapy shell中获取URL1 然后我就跑 sel.xpath('//div[@class="username mo"]/span/text()').extract() 或 我得到了我所期待的 [u'1TrippyTraveler',u'Amanda G',u'Christina B',u'Jason B',u'mitch c',u'Kim H',u'LakePointman',u'JPawla
sel.xpath('//div[@class="username mo"]/span/text()').extract()
或
我得到了我所期待的
[u'1TrippyTraveler',u'Amanda G',u'Christina B',u'Jason B',u'mitch c',u'Kim H',u'LakePointman',u'JPawlak84',u'Rik W',u'Ashton L',u'Kayla V',u'Olliedemunds u'rinna40',u'rinna40']
但我对URL 2运行相同的操作
我明白了
[u'Kayla V',u'OllieEdmunds',u'rinna40',u'rinna40']
但预期的产出是有限的
[u'Edmar J',u'Helena T',u'Viviane00',u'GracaSabi',u'Marlise',u'Beatriz21',u'anapemost',u'Kayla V',u'OllieEdmunds',u'rinna40',u'rinna40']
提前谢谢 搜索“javascript呈现”我不知道你能分享你对我的回答吗?该页面上的评论正在动态加载,你需要找出哪个请求实际加载了该信息,或者使用类似于
selenium
的工具加载类似浏览器的页面。是的,我理解,但URL 1工作正常,URL 2不工作。您应该联系网站,使两者都能正常工作。
hxs.select('//div[@class="username mo"]/span/text()').extract()