Machine learning 神经网络，是否值得随时间改变学习速度和动量_Machine Learning_Neural Network

Machine learning 神经网络，是否值得随时间改变学习速度和动量

machine-learning neural-network

Machine learning 神经网络，是否值得随时间改变学习速度和动量,machine-learning,neural-network,Machine Learning,Neural Network,在满足某些条件后，是否值得改变学习率？以及如何和为什么这样做？例如，网络将以较高的学习率开始，平方误差较低后，足够的学习率将下降以获得更好的精度，或者学习率应增加以跳出局部极小值？。这不会导致过度装修吗？那么动量呢通常你应该从高学习率和低动力开始。然后，随着时间的推移，你会降低学习速度，增加动力。这样做的目的是在学习开始时允许更多的探索，并在学习结束时强制收敛。通常，您应该查看培训错误来设置学习计划：如果它卡住了，即错误没有改变，那么是时候降低您的学习率了

在满足某些条件后，是否值得改变学习率？以及如何和为什么这样做？例如，网络将以较高的学习率开始，平方误差较低后，足够的学习率将下降以获得更好的精度，或者学习率应增加以跳出局部极小值？。这不会导致过度装修吗？那么动量呢

通常你应该从高学习率和低动力开始。然后，随着时间的推移，你会降低学习速度，增加动力。这样做的目的是在学习开始时允许更多的探索，并在学习结束时强制收敛。通常，您应该查看培训错误来设置学习计划：如果它卡住了，即错误没有改变，那么是时候降低您的学习率了