当gpu上运行其他作业时,cudaDeviceSynchronize()是否停止工作?

当gpu上运行其他作业时,cudaDeviceSynchronize()是否停止工作?,cuda,Cuda,GPU上正在运行作业,如果在其上运行另一个代码,代码将在cudaDeviceSynchronize()点停止。为什么会发生这种情况 当前在给定时间点只允许一个进程使用GPU。如果一个“作业”在GPU中运行数小时,那么它就没有公平性和数量来杀死它。基本用法是先到先得 但您可以使用CUDA多进程服务(MPS)。它基本上允许多个进程共享一个gpu

GPU上正在运行作业,如果在其上运行另一个代码,代码将在cudaDeviceSynchronize()点停止。为什么会发生这种情况

当前在给定时间点只允许一个进程使用GPU。如果一个“作业”在GPU中运行数小时,那么它就没有公平性和数量来杀死它。基本用法是先到先得

但您可以使用CUDA多进程服务(MPS)。它基本上允许多个进程共享一个gpu