Warning: file_get_contents(/data/phpspider/zhask/data//catemap/6/multithreading/4.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Python 将文件从节点A并行传输到所有其他节点(远程主机)_Python_Multithreading_Jenkins_Jenkins Groovy_Jenkins Cli - Fatal编程技术网

Python 将文件从节点A并行传输到所有其他节点(远程主机)

Python 将文件从节点A并行传输到所有其他节点(远程主机),python,multithreading,jenkins,jenkins-groovy,jenkins-cli,Python,Multithreading,Jenkins,Jenkins Groovy,Jenkins Cli,我们的Jenkins工作目前正在下载所有组件以从artifactory构建每个构建,这种下载浪费了大量构建时间,因此,我已经开始使用一个工具,它可以在每次有新版本时下载所有组件,并且在构建开始时,我将使用主机上的外部缓存,而不是下载它 将文件(17 GB)下载到本地节点后,我面临着如何与所有其他节点共享这些文件的问题, 起初,我尝试将所有文件与其他节点进行rsync并行,但使用python多线程(24个节点)需要花费大量时间,然后我尝试使用并行ssh来告诉每个节点自行下载文件,但这也花费了大量时

我们的Jenkins工作目前正在下载所有组件以从artifactory构建每个构建,这种下载浪费了大量构建时间,因此,我已经开始使用一个工具,它可以在每次有新版本时下载所有组件,并且在构建开始时,我将使用主机上的外部缓存,而不是下载它

将文件(17 GB)下载到本地节点后,我面临着如何与所有其他节点共享这些文件的问题, 起初,我尝试将所有文件与其他节点进行rsync并行,但使用python多线程(24个节点)需要花费大量时间,然后我尝试使用并行ssh来告诉每个节点自行下载文件,但这也花费了大量时间, 然后我想从詹金斯那里得到很多工作,但这可能会填满我的队伍。 至少我考虑过只需将作业触发到其他主机&但是如果我这样做,我可能没有任何信息,以防在作业中下载失败

关于如何以最推荐的方式进行此活动,有什么建议吗? 谢谢