Python Pycuda如何知道哪个设备正在运行

我们只有4个GPU设备。我们有4个以上的用户来运行cuda程序，所以在运行我的程序之前，我想检查哪个设备不忙，否则它将导致所有内存故障。但是我还没有找到一个函数来获取这个标签。我知道当我们想使用我们称之为“cudaSetDevice（）”的设备时，每个设备都必须有一个标签。“nvidia smi”可以得到更多的细节，包括哪个进程正在使用哪个设备以及它使用了多少内存。那么谁能帮助我呢？

cudaSetDevice的值从0开始，然后每增加一个设备就单调递增。或者，您可以设置环境变量CUDA_VISIBLE_DEVICES以选择要使用的设备。（见附件）

要获取有关使用设备的信息，您需要使用驱动程序API：