Javascript 如何从youtube上抓取超过100页的单个剪辑的所有评论

Javascript 如何从youtube上抓取超过100页的单个剪辑的所有评论,javascript,youtube,web-crawler,Javascript,Youtube,Web Crawler,我需要从YouTube上抓取PSY江南风格视频的所有评论(超过2600000条评论,超过5000页),请参见: 问题是: 1) 如果我使用gdata服务,谷歌只提供不超过1000条评论 2) 如果我直接从以下位置抓取html标记: site(http://www.youtube.com/all_comments?v=9bZkp7q19f0&page=$(page)) 通过增加page参数,它将在第101页之后失败,该页没有注释 显示在页面上 大家好,我该怎么解决这个问题呢 注意:我的爬

我需要从YouTube上抓取PSY江南风格视频的所有评论(超过2600000条评论,超过5000页),请参见:

问题是:

1) 如果我使用gdata服务,谷歌只提供不超过1000条评论

2) 如果我直接从以下位置抓取html标记:

site(http://www.youtube.com/all_comments?v=9bZkp7q19f0&page=$(page))
通过增加page参数,它将在第101页之后失败,该页没有注释 显示在页面上

大家好,我该怎么解决这个问题呢


注意:我的爬虫程序是使用javascript作为chrome扩展实现的,它检查加载页面的注释标记,然后加载下一页。

您可以通过对页面进行爬虫并对遇到的问题的代码进行黑客攻击来提取数据,但这不是正确的方法


你应该对此使用,并检查与此相关的其他内容。

我已经尝试了youtube gdata api,但google将返回结果长度限制为不超过1000,请检查……即使我手动单击“所有评论”页面,我仍然无法导航到#102页面。你是否能够获取甚至1000条评论。我只能卖99英镑-/我不是很确定,但是你不需要为更多的评论付费吗?我想这就是为什么有限制的原因。谢谢你的建议,但我不熟悉从谷歌购买服务配额;你有过这样的经历吗?或者在哪里可以找到相关文件这对你有帮助吗?:-)你试过了吗?