此警告消息是什么意思,tensorflow:Efficient allreduce不支持4个IndexedLices?

此警告消息是什么意思,tensorflow:Efficient allreduce不支持4个IndexedLices?,tensorflow,gpu,tensorflow2.0,Tensorflow,Gpu,Tensorflow2.0,我使用的是tensorflow V2.3,服务器有2个GPU。使用MirroredStrategy,我收到以下警告消息: tensorflow:4个IndexedLices不支持高效的allreduce 它对我的计算有什么影响?我该怎么做才能改善这种情况?我使用“nvtop”监控GPU,两个GPU的工作率接近100%。目前,MirroredStrategy.reduce将在一个设备上串联索引DSlices,并将结果广播回所有GPU。这是无效的,因此发出警告。这是一个已知的限制,当前的建议是使用M

我使用的是tensorflow V2.3,服务器有2个GPU。使用MirroredStrategy,我收到以下警告消息:

tensorflow:4个IndexedLices不支持高效的allreduce


它对我的计算有什么影响?我该怎么做才能改善这种情况?我使用“nvtop”监控GPU,两个GPU的工作率接近100%。

目前,MirroredStrategy.reduce将在一个设备上串联索引DSlices,并将结果广播回所有GPU。这是无效的,因此发出警告。这是一个已知的限制,当前的建议是使用MultiWorkerMirroredStrategy,它在处理IndexedLices时有一个稍微好一点的实现。尽管名称不同,MultiWorkerMirroredStrategy可以与单个worker一起使用,而无需额外设置