为什么curl在我的Meteor网站上工作,但Google似乎无法抓取我的网站?

为什么curl在我的Meteor网站上工作,但Google似乎无法抓取我的网站?,curl,meteor,seo,phantomjs,meteor-up,Curl,Meteor,Seo,Phantomjs,Meteor Up,我刚刚部署了一个使用Meteor Up的网站,我正试图弄清楚我的网站是否可以被谷歌抓取 当我执行 curl www.compmaker.com?\u转义\u片段_= 它返回包含所有文本的页面。另外,当我搜索“compmaker.com”作为搜索查询时,它似乎会在描述中列出我的网站的一些内容 然而,在GoogleWebmaster中,当我以Google的身份去Fetch,并按下Fetch和Render时,HTML中的内容丢失了。此外,Adsense拒绝了我的网站,因为它看不到任何文本 所以我想知道

我刚刚部署了一个使用Meteor Up的网站,我正试图弄清楚我的网站是否可以被谷歌抓取

当我执行

curl www.compmaker.com?\u转义\u片段_=

它返回包含所有文本的页面。另外,当我搜索“compmaker.com”作为搜索查询时,它似乎会在描述中列出我的网站的一些内容

然而,在GoogleWebmaster中,当我以Google的身份去Fetch,并按下Fetch和Render时,HTML中的内容丢失了。此外,Adsense拒绝了我的网站,因为它看不到任何文本

所以我想知道spiderable真的能用吗?如果不是,为什么当我使用curl时,我可以看到html,但谷歌却看不到

此外,如果我通过Meteor Up安装,并且我的“setupPhantom”设置为true,并且我的Meteor项目中有spiderable作为一个包,那么我还需要什么才能让google抓取我的Meteor站点呢


我有一种感觉,也许phantomjs一开始就可以工作,然后在某个时候停止了工作(该站点的google缓存副本是几天前的事),而curl也可以工作,因为我已经启用了快速渲染。这是一个合理的解释吗?如果是的话,我如何让phantomjs重新启动?

最常见的问题是,我们(谷歌)无法获得渲染所需的关键资源


在Fetch and Render中,您可以在页面底部看到在呈现期间未能加载的资源。如果有一些显示在那里,我会努力解决这些问题:确保服务器快速响应这些资源请求,并且它们没有被robots.txt阻止。

我有一个与您描述的问题类似的问题,您可以在这里看到详细信息

我向托管公司发送了一份支持票,他们的回复如下:

|||||||||||||||||||||||||||

我们最近更新了所有签名帐户的Mod安全设置。这将阻止HTTP头中不包含用户代理字符串的任何请求,并发送禁止响应。要解决此问题,您需要更新脚本(curl脚本)以包含用户代理字符串,然后服务器将允许连接


|||||||||||||||||||||||||||

routes.js文件在哪个文件夹中?@CaptSaltyJack-它在lib中,服务器和客户端都可以访问(快速渲染所需)。为什么?这与此有什么关系?据我所知,客户端路由是不可分插的。