Python 令人尴尬的平行和Tensorflow 2.0

Python 令人尴尬的平行和Tensorflow 2.0,python,tensorflow,parallel-processing,tensorflow2.0,Python,Tensorflow,Parallel Processing,Tensorflow2.0,编辑: 根据这些评论,我试图在这里作出一些澄清。我以前没有在网上提问过,所以让我再试一次,看看这次是否更好 我正在用Tensorflow进行模拟研究。在实验中,我将生成1000个样本X1,X2,…,X1000。每个X1有n个观测值。在每个席上,我将拟合一个神经网络,并保存一些输出Yi。 因此,我的算法如下所示: for i in range(1000): generate Xi fit nerual network. produce and save Yi 如您所见,该

编辑: 根据这些评论,我试图在这里作出一些澄清。我以前没有在网上提问过,所以让我再试一次,看看这次是否更好

我正在用Tensorflow进行模拟研究。在实验中,我将生成1000个样本X1,X2,…,X1000。每个X1有n个观测值。在每个席上,我将拟合一个神经网络,并保存一些输出Yi。 因此,我的算法如下所示:

for i in range(1000):
    generate Xi
    fit nerual network.
    produce and save Yi
如您所见,该算法效率非常低,因为每次迭代都是相互独立的。有没有一种优雅的方法来并行模拟,它可以用于GPU的训练


谢谢。

如果您将整个算法按照您在图形中描述的那样编写,例如将其放在图形中,则TF可能能够并行运行迭代。请参见中的并行_迭代。请注意,这是在尽力而为的基础上进行的,并且只有在数据依赖性和存在具有副作用的操作允许的情况下才有效。如果不同的步骤适合同一个神经网络,您还需要考虑并发性。

您应该以更好的方式设置问题的格式。很难理解你所面临的确切问题。此外,如果你能分享你以前试图研究的内容,以及你遇到的障碍,这也会有所帮助。这是一个笑话吗?美好的正如@SimasJoneliunas所说,当我们对任务和您的计划一无所知时,很难提出建议。@SimasJoneliunas我已经更新了我的问题。如果还有什么不清楚的地方,请告诉我。@Alexander Cécile我已经更新了我的问题。如果还有什么不清楚的地方,请告诉我。谢谢!我将查看这些函数并尝试一下。我尝试了tf while loop,但不知何故,我看不到parallel_iterations参数有任何区别。即使是一个简单的例子,我也看不到任何区别。iteration=tf.constant0 c=lambda I:tf.lessi,1010 def print_funiteration:2+2 iteration+=1 return iteration,r=tf.while_loopc,print_fun,[iteration],parallel_iterations=10