Machine learning 这是一个过度装配的例子吗?

Machine learning 这是一个过度装配的例子吗?,machine-learning,scikit-learn,deep-learning,data-science,Machine Learning,Scikit Learn,Deep Learning,Data Science,在大约100个时代之后培训深度学习模型: Train accuracy : 93 % Test accuracy : 54 % 然后,训练精度增加,测试精度降低: Train accuracy : 94 % Test accuracy : 53 % Train accuracy : 95 % Test accuracy : 52 % Train accuracy : 96 % Test accuracy : 51 % 对于模型的初始版本,我们对54%的准确度感到满意,但我不知道训练准确度增

在大约100个时代之后培训深度学习模型:

Train accuracy : 93 %
Test accuracy : 54 %
然后,训练精度增加,测试精度降低:

Train accuracy : 94 %
Test accuracy : 53 %
Train accuracy : 95 %
Test accuracy : 52 %
Train accuracy : 96 %
Test accuracy : 51 % 
对于模型的初始版本,我们对54%的准确度感到满意,但我不知道训练准确度增加、测试准确度降低(模型除外)的含义是过度拟合。当达到最大测试精度时,我是否应该停止训练模型并使用训练过的参数,在这种情况下为54%

从训练精度增加和测试精度降低的观察中,我可以获得什么知识?这是一个更强的过度拟合的例子吗


是的,这绝对是太合适了。应在测试精度停止增加时终止培训程序。从你展示的数字来看,你的模型实际上是过度拟合了很多。应该考虑增加正则化以提高测试精度。 (我补充说):正如@Djib2011所说,正规化是帮助防止过度装修的方法。您可以调查最常见的问题,例如L2或辍学


这个问题在评论中得到了回答,因为没有人写答案, 我把这个答案做成了一个社区wiki答案。这是为了将此问题从列表中删除 未答复的名单。 最初的答案是@Djib2011。鼓励OP选择此作为 回答以删除未回答的问题状态。(如该人 在评论中回答的人决定回答OP可以,也应该, 选择该答案)


是的,这绝对是太合适了。应在测试精度停止增加时终止培训程序。从你展示的数字来看,你的模型实际上是过度拟合了很多。应该考虑增加正则化以提高测试精度。 (我补充说):正如@Djib2011所说,正规化是帮助防止过度装修的方法。您可以调查最常见的问题,例如L2或辍学


这个问题在评论中得到了回答,因为没有人写答案, 我把这个答案做成了一个社区wiki答案。这是为了将此问题从列表中删除 未答复的名单。 最初的答案是@Djib2011。鼓励OP选择此作为 回答以删除未回答的问题状态。(如该人 在评论中回答的人决定回答OP可以,也应该,
选择那个答案。)

是的,确实是太过合适了,当我第一次在SAS中开始建立逻辑回归时,我们曾经有一个经验法则,即拥有一个相互之间的训练和测试性能不超过10%的模型

另一种方法是使用k折叠,并在所有折叠中获得平衡的性能


总的来说,这意味着模型是稳定的,我们将其与实际数据趋势进行拟合,而不是与噪声进行拟合

是的,绝对是过度拟合,当我第一次开始在SAS中建立逻辑回归时,我们曾经有一个经验法则,那就是拥有一个相互之间的训练和测试性能不超过10%的模型

另一种方法是使用k折叠,并在所有折叠中获得平衡的性能


总的来说,这意味着模型是稳定的,我们将其与实际数据趋势进行拟合,而不是与噪声进行拟合

是的,这绝对是太合适了。应在测试精度停止增加时终止培训程序。从你展示的数字来看,你的模型实际上是过度拟合了很多。你应该考虑增加正则化以提高测试精度。我所使用的另一个“度量”是,如果训练精度和测试精度之间的差距越来越大,那么它是过度拟合的。是的,这肯定是过度拟合的。应在测试精度停止增加时终止培训程序。从你展示的数字来看,你的模型实际上是过度拟合了很多。你应该考虑增加正则化以提高测试精度。我使用的另一个“测量”是,如果训练精度和测试精度之间的差距越来越大,它就会过度拟合。