Javascript 每日交易聚合器如何从不同的交易网站获取数据?
我想知道每日交易聚合器是如何从不同的交易网站上丢弃数据的?我见过很多交易网站不提供API和RSS提要,但这个聚合器仍然会从中删除数据。 这里是我指的一些网站Javascript 每日交易聚合器如何从不同的交易网站获取数据?,javascript,python,screen-scraping,web-scraping,Javascript,Python,Screen Scraping,Web Scraping,我想知道每日交易聚合器是如何从不同的交易网站上丢弃数据的?我见过很多交易网站不提供API和RSS提要,但这个聚合器仍然会从中删除数据。 这里是我指的一些网站 如果站点不提供任何API或RSS提要,仍然可以通过查询信息所在的页面并从返回的HTML中提取数据,以“传统方式”从中提取数据 在Python中,可以使用或查询页面,或从HTML中提取数据。对于更大的项目,可以尝试使用框架,它提供了编写复杂爬行器的所有功能。如果站点不提供任何API或RSS提要,仍然可以通过查询信息所在的页面并从返回的HTM
如果站点不提供任何API或RSS提要,仍然可以通过查询信息所在的页面并从返回的HTML中提取数据,以“传统方式”从中提取数据
在
Python
中,可以使用或查询页面,或从HTML中提取数据。对于更大的项目,可以尝试使用框架,它提供了编写复杂爬行器的所有功能。如果站点不提供任何API或RSS提要,仍然可以通过查询信息所在的页面并从返回的HTML中提取数据,以“传统的方式”从中提取数据
在
Python
中,可以使用或查询页面,或从HTML中提取数据。对于更大的项目,请尝试使用框架,它提供了编写复杂爬行器的所有功能。当我构建LesserThan时,我发现大多数API或RSS提要都是未发布的。只有在你注册了一个附属帐户之后,他们才会给你RSS提要的URL。当我构建LesserThan时,我发现大多数API或RSS提要都是未发布的。只有在你注册会员帐户后,他们才会给你RSS提要的URL。正确,但是对于复杂的网站,他们也会这样做吗??我见过一些网站使用post进行交流,对于复杂的网站也是可能的。关于更多的例子,这里有一个使用scrapy
从其他网站提取数据的方法。是的,但是他们对复杂的网站也这样做吗??我见过一些网站使用post进行交流,对于复杂的网站也是可能的。有关更多示例,下面是一个使用scrapy
从其他站点提取数据的示例。