Amazon ec2 我们可以将MPI用于云上的HPC应用程序吗

Amazon ec2 我们可以将MPI用于云上的HPC应用程序吗,amazon-ec2,cloud,virtual-machine,mpi,hpc,Amazon Ec2,Cloud,Virtual Machine,Mpi,Hpc,MPI更适合于异构环境,我需要做什么才能在Amazon云上运行使用MPI的HPC应用程序,我的理解是我的应用程序可能分配了异构虚拟机。我将遇到哪些性能问题?在这一领域有大量投资,而且“最新技术”正在迅速变化。虽然我今天的回答是合理的,但在未来几个季度,这种情况可能会发生变化 最大的性能问题是延迟:内存延迟、互连延迟和文件系统延迟。带宽也是一个问题,但不如延迟那么明显 第二个最大的性能问题是缺乏对DMA/RDMA、GPU和其他硬件加速器等“通用”HPC技术的支持。虽然不是每个集群都会有这些,但如果

MPI更适合于异构环境,我需要做什么才能在Amazon云上运行使用MPI的HPC应用程序,我的理解是我的应用程序可能分配了异构虚拟机。我将遇到哪些性能问题?

在这一领域有大量投资,而且“最新技术”正在迅速变化。虽然我今天的回答是合理的,但在未来几个季度,这种情况可能会发生变化

最大的性能问题是延迟:内存延迟、互连延迟和文件系统延迟。带宽也是一个问题,但不如延迟那么明显


第二个最大的性能问题是缺乏对DMA/RDMA、GPU和其他硬件加速器等“通用”HPC技术的支持。虽然不是每个集群都会有这些,但如果您习惯了这些技术的性能提升,那么相比之下,虚拟机环境会差得多

需要注意的是,到目前为止,AmazonEC2不支持任何形式的广播或多播。因此,如果您的MPI实现使用BC/MC(例如,用于集体呼叫,甚至是在引擎罩下),它将无法在您的云实例上使用。

我们还需要广播和多播支持,因此我们修改了开源n2n vpn软件解决方案,它对我们来说运行良好


感谢Suszterpatt和Stan,作为后续行动,我最感兴趣的是基于MPI的应用程序迁移到云端时所产生的额外通信成本。这一挑战的软件解决方案是否可行?是否有可能为云限制提供解决方案?EC2正在用于MPI,包括使用广播(MPI_Bcast)的应用程序。人们正在使用它。性能将根据所使用的实例类型而有所不同。从根本上说,它确实有效——因此说“不可用”是不正确的——即使性能不是对所有应用程序都理想。@David:我想我本可以说得更清楚一些。EC2不支持广播/多播网络数据包的传输。这是一个完全不同于MPI运行的网络层,与MPI\u Bcast无关。MPI实现当然只能使用单播数据包,而且这种实现当然会在EC2上工作。基准测试结果和HPC特定实例可用性的数量不断增加。是一篇很好的文章和博客(还有如何在归档文件中的EC2中设置HPC集群),就像检查GCE一样。