Raspberry pi Rasbperry Pi上的Scrapy和Javascript站点

Raspberry pi Rasbperry Pi上的Scrapy和Javascript站点,raspberry-pi,scrapy,splash-screen,Raspberry Pi,Scrapy,Splash Screen,我正在尝试在Raspberri Pi上使用Scrapy在初始加载后刮取一个由javascript修改的页面 在将页面传递到scrapy之前,我尝试安装docker和scrapinghub/splash来呈现页面,但意识到splash还不支持ARM。是否有其他选项可以使用javascript和树莓Pi上的Scrapy来刮取页面 目前,在站点上使用普通的scrapy请求,我只得到这个html,这是因为站点首先加载,然后javascript呈现整个内容。因此,在使用javascript之前,页面源代码

我正在尝试在Raspberri Pi上使用Scrapy在初始加载后刮取一个由javascript修改的页面

在将页面传递到scrapy之前,我尝试安装docker和scrapinghub/splash来呈现页面,但意识到splash还不支持ARM。是否有其他选项可以使用javascript和树莓Pi上的Scrapy来刮取页面

目前,在站点上使用普通的scrapy请求,我只得到这个html,这是因为站点首先加载,然后javascript呈现整个内容。因此,在使用javascript之前,页面源代码看起来是空的:

<body class="notie8 notie9 lang-{{html.lang}}">
<!--<![endif]-->
    <div loading-line></div>

    <div page-layout>
        <div ng-view></div>
    </div>
</body>
</html>


作为参考,我所指的网站是:

Sreality使用API,这不是一种方式吗?对于您的URL,有以下API调用:(在浏览器的开发工具中查找XHR请求)。

Sreality使用API,这不是一种方法吗?对于您的URL,有以下API调用:(在浏览器的开发人员工具中查找XHR请求)。

您可以尝试使用这里讨论的方法。在rasbperry pi上使用PhantomJS浏览器。您可以尝试使用这里讨论的方法。在你的rasbperry pi上使用PhantomJS浏览器。我不知道这一点,非常感谢你的帮助!快速提问,你们怎么知道他们有API?我总是与网站打交道,想知道它们是否提供API,是否要进入浏览器开发工具的“网络”选项卡,寻找XHR请求通常是我想要抓取网站的第一件事。特别是当我怀疑JavaScript参与其中时。我不知道这一点,非常感谢您的帮助!快速提问,你们怎么知道他们有API?我总是与网站打交道,想知道它们是否提供API,是否要进入浏览器开发工具的“网络”选项卡,寻找XHR请求通常是我想要抓取网站的第一件事。特别是当我怀疑JavaScript被卷入其中时。