Optimization Keras报告两次优化运行之间的损失高度不一致

Optimization Keras报告两次优化运行之间的损失高度不一致,optimization,keras,Optimization,Keras,我正在尝试对一些包含对象的图像进行分类:是或否 我首先用rmsprop优化器运行了50个历元,然后用50多个历元继续第二次运行SGD优化器 我的第一次运行以损失~0.4结束,模型保存。第二次运行从保存的模型开始 问题是,在第二次运行开始时,Keras显示1个历元的损失约为0.8 为什么会发生相同的损失函数?您的新SGD优化器没有针对该模型进行优化。这些时刻和自适应学习率被遗忘了 因此,这一新的汇编很有可能一开始就很糟糕 您可以尝试以较低的学习率重新开始,也可以尝试为SGD增加时间 谢谢你,丹尼尔

我正在尝试对一些包含对象的图像进行分类:是或否

我首先用rmsprop优化器运行了50个历元,然后用50多个历元继续第二次运行SGD优化器

我的第一次运行以损失~0.4结束,模型保存。第二次运行从保存的模型开始

问题是,在第二次运行开始时,Keras显示1个历元的损失约为0.8


为什么会发生相同的损失函数?

您的新SGD优化器没有针对该模型进行优化。这些时刻和自适应学习率被遗忘了

因此,这一新的汇编很有可能一开始就很糟糕


您可以尝试以较低的学习率重新开始,也可以尝试为SGD增加时间

谢谢你,丹尼尔。这有帮助