Neural network 当我们将神经网络(BP)的权重初始化为零时,这一点的误差函数是什么?

Neural network 当我们将神经网络(BP)的权重初始化为零时,这一点的误差函数是什么?,neural-network,Neural Network,我想知道那件事 如果我将BP神经网络的权重初始化为零,那么误差函数是什么类型的(鞍点、局部极大值、局部极小值……) 我想从数学上推断,如果初始权重为零,神经网络可能陷入局部极小。如果它们都为零,就不能给它们很多不同的起始值 我建议阅读一下反向传播和初始权重 编辑:正如你在评论中所说,这确实是一个鞍点。基于反向传播的算法通常会立即停止 如果初始权重为零,神经网络可能陷入局部极小。如果它们都为零,就不能给它们很多不同的起始值 我建议阅读一下反向传播和初始权重 编辑:正如你在评论中所说,这确实是一个鞍

我想知道那件事 如果我将BP神经网络的权重初始化为零,那么误差函数是什么类型的(鞍点、局部极大值、局部极小值……)
我想从数学上推断,如果初始权重为零,神经网络可能陷入局部极小。如果它们都为零,就不能给它们很多不同的起始值

我建议阅读一下反向传播和初始权重


编辑:正如你在评论中所说,这确实是一个鞍点。基于反向传播的算法通常会立即停止

如果初始权重为零,神经网络可能陷入局部极小。如果它们都为零,就不能给它们很多不同的起始值

我建议阅读一下反向传播和初始权重


编辑:正如你在评论中所说,这确实是一个鞍点。基于反向传播的算法通常会立即停止

我完全了解BP,但我想你没有理解我的问题,我问的是当我们将神经网络权重初始化为零时,启动时的误差函数。我看了一些帖子说它是在一个鞍点!我知道它会陷入局部极小值,必须使用随机小权重。我完全了解BP,但我想你没有理解我的问题。我问了关于当我们将神经网络权重初始化为零时开始时的误差函数。我看了一些帖子说它是在一个鞍点!我知道它会陷入局部极小值,必须使用随机小权重。