我是否应该使用python请求提交请求,以避免被web服务器阻塞
我有一个从web服务器获取数据的脚本,运行了1小时到1小时18分钟,直到出现错误 NewConnectionError(':未能建立新连接:[Errno 10060]连接尝试失败,因为连接方在一段时间后没有正确响应,或者由于连接的主机未能响应而建立的连接失败',)我是否应该使用python请求提交请求,以避免被web服务器阻塞,python,python-requests,Python,Python Requests,我有一个从web服务器获取数据的脚本,运行了1小时到1小时18分钟,直到出现错误 NewConnectionError(':未能建立新连接:[Errno 10060]连接尝试失败,因为连接方在一段时间后没有正确响应,或者由于连接的主机未能响应而建立的连接失败',) 我在请求中使用sessions和。Session()作为s:来减少请求中的一些开销,但是我还可以做更多的事情,因为我仍然有更多的内容要获取,但又不想获得一个永久块,所以我决定以不同的方式解决这个问题,并多次运行脚本,但如果不是os.p
我在请求中使用sessions和
。Session()作为s:
来减少请求中的一些开销,但是我还可以做更多的事情,因为我仍然有更多的内容要获取,但又不想获得一个永久块,所以我决定以不同的方式解决这个问题,并多次运行脚本,但如果不是os.path.isfile,就使用(FileNameToWrite):
从导入操作系统路径
检查我是否已经处理了该网页并将其保存到文件中。如果没有,我提交了请求并最终获得了所需的所有数据
顺便说一句,我在速度更快的机器上运行了相同的原始代码,它很快就遇到了错误,但仍然处理了相同数量的文件,其中包含了大约1000多个请求