Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/python/341.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Javascript 每日交易聚合器如何从不同的交易网站获取数据?_Javascript_Python_Screen Scraping_Web Scraping - Fatal编程技术网

Javascript 每日交易聚合器如何从不同的交易网站获取数据?

Javascript 每日交易聚合器如何从不同的交易网站获取数据?,javascript,python,screen-scraping,web-scraping,Javascript,Python,Screen Scraping,Web Scraping,我想知道每日交易聚合器是如何从不同的交易网站上丢弃数据的?我见过很多交易网站不提供API和RSS提要,但这个聚合器仍然会从中删除数据。 这里是我指的一些网站 如果站点不提供任何API或RSS提要,仍然可以通过查询信息所在的页面并从返回的HTML中提取数据,以“传统方式”从中提取数据 在Python中,可以使用或查询页面,或从HTML中提取数据。对于更大的项目,可以尝试使用框架,它提供了编写复杂爬行器的所有功能。如果站点不提供任何API或RSS提要,仍然可以通过查询信息所在的页面并从返回的HTM

我想知道每日交易聚合器是如何从不同的交易网站上丢弃数据的?我见过很多交易网站不提供API和RSS提要,但这个聚合器仍然会从中删除数据。 这里是我指的一些网站


如果站点不提供任何API或RSS提要,仍然可以通过查询信息所在的页面并从返回的HTML中提取数据,以“传统方式”从中提取数据


Python
中,可以使用或查询页面,或从HTML中提取数据。对于更大的项目,可以尝试使用框架,它提供了编写复杂爬行器的所有功能。

如果站点不提供任何API或RSS提要,仍然可以通过查询信息所在的页面并从返回的HTML中提取数据,以“传统的方式”从中提取数据


Python
中,可以使用或查询页面,或从HTML中提取数据。对于更大的项目,请尝试使用框架,它提供了编写复杂爬行器的所有功能。

当我构建LesserThan时,我发现大多数API或RSS提要都是未发布的。只有在你注册了一个附属帐户之后,他们才会给你RSS提要的URL。

当我构建LesserThan时,我发现大多数API或RSS提要都是未发布的。只有在你注册会员帐户后,他们才会给你RSS提要的URL。

正确,但是对于复杂的网站,他们也会这样做吗??我见过一些网站使用post进行交流,对于复杂的网站也是可能的。关于更多的例子,这里有一个使用
scrapy
从其他网站提取数据的方法。是的,但是他们对复杂的网站也这样做吗??我见过一些网站使用post进行交流,对于复杂的网站也是可能的。有关更多示例,下面是一个使用
scrapy
从其他站点提取数据的示例。