Deep learning 我可以在更差的GPU上运行预先训练的模型吗？

我很抱歉，因为我的问题可能听起来很愚蠢。但我在深度学习方面还是个新手

所以基本上我使用了一台带有TITAN X GPU的计算机，我创建了我的数据集，然后在TITAN X上训练它

---

我的问题是，如果我保存这个经过训练的模型，然后在我的第二台计算机上加载该模型（它的GPU比我的TITAN X差），然后在新的计算机上测试该模型-它会成功吗？或者我使用的GPU更差可能会影响它？

首先，它会运行得更慢。 您的模型还需要完全放入旧GPU的内存中，否则您在运行它时会遇到问题。

---

但是，如果它运行，如果您使用的是现代框架，它应该能够正确执行。

因此，如果我的旧GPU内存为4GB，并且我的数据集和经过培训的型号总共为1.3GB，它会运行吗？这取决于您的网络对数据的处理方式。通常，只有一部分数据将加载到内存中（一批）。模型主要由权重组成，这些权重将存储在gpu上。您的模型将在处理数据批处理时计算特性，因此在GPU上需要额外的内存。此外，请考虑仅使用该模型进行推断的情况。如果不进行主动训练，也不必在GPU上存储激活，这可以显著减少内存占用。尤其是卷积神经网络在运行时占用的内存更少，请参见第30张左右的幻灯片。@Denninger-正如我所说，该模型已经过训练。我只需要将它加载到更差的计算机上（GPU上有4GB内存，数据集和预先训练的型号为1.3GB）。我不需要在更差的GPU上训练模型。是的，我在用CNN。因此，总而言之，我将能够在更差的GPU上测试该模型？这很难用现有的大量信息来说明。可能您本身也不需要gpu，如果您不关心运行时，也可以在cpu上运行它。