Python 在GPU中支持更多级别(pytorch/openmpi)

Python 在GPU中支持更多级别(pytorch/openmpi),python,pytorch,openmpi,Python,Pytorch,Openmpi,目前,我使用带有OpenMPI后端的Pytork进行分布式培训。我有2个等级和2个GPU,每个等级分配给一个GPU 我想再次使用两个GPU将等级数增加到10。 是否有一种方法可以在单个GPU中拥有更多的列组(例如,GPU 0上有0-4个列组,GPU 1上有5-9个列组)

目前,我使用带有OpenMPI后端的Pytork进行分布式培训。我有2个等级和2个GPU,每个等级分配给一个GPU

我想再次使用两个GPU将等级数增加到10。 是否有一种方法可以在单个GPU中拥有更多的列组(例如,GPU 0上有0-4个列组,GPU 1上有5-9个列组)