Python 加载JS后从url获取源代码

Python 加载JS后从url获取源代码,python,python-2.7,web-scraping,urllib2,Python,Python 2.7,Web Scraping,Urllib2,目前我面临一个问题 考虑URL,如果您在浏览器中查看源代码的源代码,它与inspect元素版本不同 现在问题来了,inspect元素版本包含通过JS、ajax等完全加载的HTML源代码,这正是我所需要的 import urllib2 page = urllib2.urlopen(url) page_content = page.read() 上面没有给出完全加载的版本,也不可能使用selenium,因为将使用webdriver,并且在我的系统中它可能存在,也可能不存在 因此,目前我正在寻找一种

目前我面临一个问题

考虑URL,如果您在浏览器中查看源代码的源代码,它与inspect元素版本不同

现在问题来了,inspect元素版本包含通过JS、ajax等完全加载的HTML源代码,这正是我所需要的

import urllib2
page = urllib2.urlopen(url)
page_content = page.read()
上面没有给出完全加载的版本,也不可能使用selenium,因为将使用webdriver,并且在我的系统中它可能存在,也可能不存在


因此,目前我正在寻找一种解决方法,可能是其他库。

您知道可以通过ajax调用加载信息吗?JS加载的信息必须由本地数据生成,你已经有了本地数据。是的,但这一切都可能是复杂的过程,取决于调用的数量,我正在寻找一个简单的解决方案。这完全取决于你想要刮取什么。我听说Scrapy和某种插件可以解析和使用javascript。但我不确定。你为什么要刮js btw?