Neural network 反向传播算法中的局部极小

Neural network 反向传播算法中的局部极小,neural-network,artificial-intelligence,robotics,backpropagation,gradient-descent,Neural Network,Artificial Intelligence,Robotics,Backpropagation,Gradient Descent,增加一个称为比例因子的额外项会降低反向传播算法的收敛性。 那么如何在反向传播算法中避免局部极小值。在局部极小值中,误差函数的梯度是零向量,因此使用梯度的backprop无法进一步移动参数并完成训练

增加一个称为比例因子的额外项会降低反向传播算法的收敛性。
那么如何在反向传播算法中避免局部极小值。

在局部极小值中,误差函数的梯度是零向量,因此使用梯度的backprop无法进一步移动参数并完成训练