Warning: file_get_contents(/data/phpspider/zhask/data//catemap/0/vba/14.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
我是否应该使用python请求提交请求,以避免被web服务器阻塞_Python_Python Requests - Fatal编程技术网

我是否应该使用python请求提交请求,以避免被web服务器阻塞

我是否应该使用python请求提交请求,以避免被web服务器阻塞,python,python-requests,Python,Python Requests,我有一个从web服务器获取数据的脚本,运行了1小时到1小时18分钟,直到出现错误 NewConnectionError(':未能建立新连接:[Errno 10060]连接尝试失败,因为连接方在一段时间后没有正确响应,或者由于连接的主机未能响应而建立的连接失败',) 我在请求中使用sessions和。Session()作为s:来减少请求中的一些开销,但是我还可以做更多的事情,因为我仍然有更多的内容要获取,但又不想获得一个永久块,所以我决定以不同的方式解决这个问题,并多次运行脚本,但如果不是os.p

我有一个从web服务器获取数据的脚本,运行了1小时到1小时18分钟,直到出现错误

NewConnectionError(':未能建立新连接:[Errno 10060]连接尝试失败,因为连接方在一段时间后没有正确响应,或者由于连接的主机未能响应而建立的连接失败',)


我在请求中使用sessions和
。Session()作为s:
来减少请求中的一些开销,但是我还可以做更多的事情,因为我仍然有更多的内容要获取,但又不想获得一个永久块

,所以我决定以不同的方式解决这个问题,并多次运行脚本,但如果不是os.path.isfile,就使用
(FileNameToWrite):
导入操作系统路径
检查我是否已经处理了该网页并将其保存到文件中。如果没有,我提交了请求并最终获得了所需的所有数据

顺便说一句,我在速度更快的机器上运行了相同的原始代码,它很快就遇到了错误,但仍然处理了相同数量的文件,其中包含了大约1000多个请求