在CUDA中使用MPI需要什么硬件设置?

在CUDA中使用MPI需要什么硬件设置?,cuda,mpi,Cuda,Mpi,我是MPI新手。我想用CUDA和MPI。我有三台电脑,每台都有一个GPU,我想用它做一些简单的处理(矩阵乘法) 但我不确定在CUDA中使用MPI需要什么硬件设置? 请开导我 更新 我问这个问题是因为很多地方提到了infiniband集群。我没有这样的设置。我只有办公室里的普通局域网。 最重要的是,基本的想法是了解MPI和CUDA是如何协同工作的,并进行小型测试运行的——而不管性能如何 一台或多台具有nVidia GPU且能够CUDA的机器 MPI和CUDA之间没有任何关系。您只需在每个MPI进程

我是MPI新手。我想用CUDA和MPI。我有三台电脑,每台都有一个GPU,我想用它做一些简单的处理(矩阵乘法)

但我不确定在CUDA中使用MPI需要什么硬件设置? 请开导我

更新 我问这个问题是因为很多地方提到了infiniband集群。我没有这样的设置。我只有办公室里的普通局域网。
最重要的是,基本的想法是了解MPI和CUDA是如何协同工作的,并进行小型测试运行的——而不管性能如何

一台或多台具有nVidia GPU且能够CUDA的机器


MPI和CUDA之间没有任何关系。您只需在每个MPI进程中使用CUDA即可。

但是,如果可以的话,这是对OP最初问题的一种跟进吗

<>我意识到@ GPUGEY的Q是关于硬件的,但他是否在运行英伟达CUDA编译器支持的操作系统选项,这不是真的吗?(即,Linux、Win、OSX)


没有开源的CUDA,是吗?

那么你的意思是,如果我用办公室里的普通局域网连接有显卡的PC,它会工作吗?我不需要infiniband之类的东西?是吗?当然,你可以使用普通的以太网。MPICH和OpenMPI都可以使用您的操作系统支持的任何东西。请注意,矩阵乘法是一个紧密耦合的问题,非常占用带宽。因此,在像GbE这样的慢速互连上,它会变得很慢。@gpuguy许多学术集群只是一堆连接到交换机的PC。你听说Infiniband、Gemini或Myrinet互连的唯一原因是它们速度更快。对于许多类型的问题,互连速度是瓶颈。