Anaconda 通过Shodan下载大型数据集时冻结?

Anaconda 通过Shodan下载大型数据集时冻结?,anaconda,shodan,Anaconda,Shodan,我通过Windows 10上的Anaconda终端使用Shodan的API来获取下面查询的数据,但运行几秒钟后,ETA计时器冻结,我的网络活动降至零。当这种情况发生时,点击Control+C会重新启动它,并让它再次移动几秒钟,但很快就会停止 shodan download --limit 3100000 data state:"wa" 而且,当它运行时,下载速度似乎很慢;我想问问有没有什么办法可以加快速度?我所在的大学的互联网能够达到300 Mbps以上,但下载速度似乎达到了5 Mbps

我通过Windows 10上的Anaconda终端使用Shodan的API来获取下面查询的数据,但运行几秒钟后,ETA计时器冻结,我的网络活动降至零。当这种情况发生时,点击Control+C会重新启动它,并让它再次移动几秒钟,但很快就会停止

shodan download --limit 3100000 data state:"wa"  
而且,当它运行时,下载速度似乎很慢;我想问问有没有什么办法可以加快速度?我所在的大学的互联网能够达到300 Mbps以上,但下载速度似乎达到了5 Mbps


我不知道如何解决这两个问题;我的设备有足够的空间,我的互联网没有断开连接。我们曾尝试以管理员的身份运行Anaconda终端,但也没有任何帮助。

我不熟悉具体的网站,但一般来说,速度有限或下载停止并不是由“你这边”的事情造成的,比如大学连接,甚至是你的下载脚本

很可能网站想要保护自己,而您需要以不同的方式使用api,例如使用不同的帐户。或者根据您的帐户设置了一些使用限制


最好的做法可能是联系该网站,并询问他们如何做到这一点。

我从Shodan支持部门得到了回复;交叉张贴他们的一些答复在这里-

API不是为大批量数据导出而设计的。因此 您遇到了一些问题/限制:

每个搜索查询有100万个结果的硬限制。这意味着无法下载搜索查询状态:wa的所有结果。 搜索API在最初的几页中表现最好,并且随着您对结果的深入,响应速度会逐渐变慢。 这意味着前几页会立即返回,而第100页会立即返回 页面可能需要10秒以上的时间。 每秒只能发送1个请求,因此无法多路/并行化搜索请求。 使用搜索方面可以执行许多高级分析


在shodan.pdf小册子中有关于Facet的文档,漂浮在他们的网站上,用于从他们的API返回摘要信息。

我正在阅读的内容;在写入之前增加存储在内存中的数据量可能会有帮助。我目前正在探索如何做到这一点。@JsDart不,这些方面并没有考虑到你所观察到的情况。请等待我们支持人员的回复。我注意到你发了一封电子邮件,但现在是我们的周末,所以我们还没有回复;将在工作时间内回复您。