Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/python/322.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
如何使用Python解析无限滚动页面(例如,Wallbase.cc/search/sky)?_Python_Html Parsing_Beautifulsoup_Mechanize - Fatal编程技术网

如何使用Python解析无限滚动页面(例如,Wallbase.cc/search/sky)?

如何使用Python解析无限滚动页面(例如,Wallbase.cc/search/sky)?,python,html-parsing,beautifulsoup,mechanize,Python,Html Parsing,Beautifulsoup,Mechanize,不确定是否有任何与Mechanize或BeautifulSoup相关的帮助。如有任何建议,将不胜感激 Mechanize and Beauty soup无法与用于无限滚动的javascript进行交互 硒罐 此外,如果在使用无限滚动时查看ajax请求,您将看到一个到http://wallbase.cc/search/160带有请求数据: query:sky board:123 res_opt:eqeq res:0x0 aspect:0 nsfw_sfw:1 nsfw_sketchy:0 nsfw

不确定是否有任何与Mechanize或BeautifulSoup相关的帮助。如有任何建议,将不胜感激

Mechanize and Beauty soup无法与用于无限滚动的javascript进行交互

硒罐

此外,如果在使用无限滚动时查看ajax请求,您将看到一个到
http://wallbase.cc/search/160
带有请求数据:

query:sky
board:123
res_opt:eqeq
res:0x0
aspect:0
nsfw_sfw:1
nsfw_sketchy:0
nsfw_nsfw:0
thpp:32
orderby:relevance
orderby_opt:desc

160对应于图像范围,因此在它之前的请求是
wallbase.cc/searc/128

,因此如果我想刮墙纸并将每个墙纸写入文件夹,我如何通过用于加载无限滚动的javascript来加载下一页墙纸?目前,我只能一直抓取壁纸,直到加载javascript。