Deep learning 经过多次迭代后,GAN模型精度降低

Deep learning 经过多次迭代后,GAN模型精度降低,deep-learning,gpu,nvidia,Deep Learning,Gpu,Nvidia,我一直在训练GAN学习Nvidia 4x RTX 3090。它会聚到某个点,但随后开始降低图像质量,最终只产生噪声和扭曲的图像。这也可能是GPU的过热问题有人知道发生这种情况的原因和解决方案吗?代码似乎没有问题。您正在经历的这种现象与GANs特有的模式崩溃有关。这也可能是一个VG(消失梯度问题) 如果您确实看到模型的质量在特定点后下降,您可能应该在该特定点切断或尝试使用特定的GANs相关技术,以缓解问题/帮助收敛(请参阅特定类型的损失,如Wasserstein损失) 为了验证您的假设,您需要进行

我一直在训练GAN学习Nvidia 4x RTX 3090。它会聚到某个点,但随后开始降低图像质量,最终只产生噪声和扭曲的图像。这也可能是GPU的过热问题有人知道发生这种情况的原因和解决方案吗?代码似乎没有问题。

您正在经历的这种现象与GANs特有的模式崩溃有关。这也可能是一个VG(消失梯度问题)

如果您确实看到模型的质量在特定点后下降,您可能应该在该特定点切断或尝试使用特定的GANs相关技术,以缓解问题/帮助收敛(请参阅特定类型的损失,如Wasserstein损失)

为了验证您的假设,您需要进行大量测试,如果温度上升超过某些阈值,则会发生一些奇怪的现象,但我99.99%确定热量不是故障,而是:

  • 模式崩溃

  • 消失梯度

  • 这两者的结合

  • 请检查以下链接以检查这些问题: