Tensorflow CUDA编程:占用率是实现不同进程间GPU切片的方法吗?

Tensorflow CUDA编程:占用率是实现不同进程间GPU切片的方法吗?,tensorflow,cuda,cluster-computing,gpgpu,gpu,Tensorflow,Cuda,Cluster Computing,Gpgpu,Gpu,有一些方法可以实现GPU共享。我偶然发现有人住。我可以使用它在共享GPU的进程(例如tensorflow)之间切片GPU吗?这里的slice意味着GPU资源始终专用于该过程。使用占用率,我将了解GPU和SMs的详细信息,并在此基础上启动内核,声明为这些GPU资源创建块。 我正在使用NVIDIA Corporation GK210GL[Tesla K80],并安装了cuda 9工具包 请建议。谢谢 有一些方法可以实现GPU共享 不,没有。一般来说,没有你想象中的GPU共享类型。对于MPI风格的多进

有一些方法可以实现GPU共享。我偶然发现有人住。我可以使用它在共享GPU的进程(例如tensorflow)之间切片GPU吗?这里的slice意味着GPU资源始终专用于该过程。使用占用率,我将了解GPU和SMs的详细信息,并在此基础上启动内核,声明为这些GPU资源创建块。
我正在使用NVIDIA Corporation GK210GL[Tesla K80],并安装了cuda 9工具包
请建议。谢谢

有一些方法可以实现GPU共享

不,没有。一般来说,没有你想象中的GPU共享类型。对于MPI风格的多进程计算来说,有一些限制,但这与运行Tensorflow的上下文无关(请参阅为什么不能使用MPS)

我偶然发现有人住。我可以使用它在共享GPU的进程(例如tensorflow)之间切片GPU吗

不,你不能。入住率是一个性能指标。它与在不同进程之间共享GPU资源的能力无关

请建议

买第二个GPU

有一些方法可以实现GPU共享

不,没有。一般来说,没有你想象中的GPU共享类型。对于MPI风格的多进程计算来说,有一些限制,但这与运行Tensorflow的上下文无关(请参阅为什么不能使用MPS)

我偶然发现有人住。我可以使用它在共享GPU的进程(例如tensorflow)之间切片GPU吗

不,你不能。入住率是一个性能指标。它与在不同进程之间共享GPU资源的能力无关

请建议


购买第二个GPU。

占用率与GPU共享完全无关占用率与GPU共享完全无关