Warning: file_get_contents(/data/phpspider/zhask/data//catemap/0/windows/17.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Neural network 一个输入层应该包括一个偏置神经元吗?_Neural Network_Feed Forward_Bias Neuron - Fatal编程技术网

Neural network 一个输入层应该包括一个偏置神经元吗?

Neural network 一个输入层应该包括一个偏置神经元吗?,neural-network,feed-forward,bias-neuron,Neural Network,Feed Forward,Bias Neuron,我在想:在多层前馈神经网络中,输入层应该包含一个偏置神经元,还是只在隐藏层中有用?如果是,为什么?否,输入层不需要连接到偏置神经元,因为它从偏置神经元接收到的任何激活都会被实际输入完全覆盖 例如,想象一个网络试图解决经典问题,使用这种架构(其中刚刚标记为1的神经元是偏差): 要在输入(1,0)上运行此网络,只需钳制神经元X1=1和X2=0的激活。现在,如果X1或X2也接收到来自偏置的输入,那么该输入将被覆盖,从而使这样的连接毫无意义 对不起,在你的绘图中,偏置神经元是输入层的一部分,因为它被转

我在想:在多层前馈神经网络中,输入层应该包含一个偏置神经元,还是只在隐藏层中有用?如果是,为什么?

否,输入层不需要连接到偏置神经元,因为它从偏置神经元接收到的任何激活都会被实际输入完全覆盖

例如,想象一个网络试图解决经典问题,使用这种架构(其中刚刚标记为1的神经元是偏差):


要在输入(1,0)上运行此网络,只需钳制神经元X1=1和X2=0的激活。现在,如果X1或X2也接收到来自偏置的输入,那么该输入将被覆盖,从而使这样的连接毫无意义

对不起,在你的绘图中,偏置神经元是输入层的一部分,因为它被转发到隐藏层,我错了吗?嗯,有点。偏向神经元通常被描述为位于其自身的lil层。我以为你的问题是关于是否将偏置单元连接到输入层中的单元。无论哪种情况,答案都是坚定的否定;你总是只需要一个偏置单元,它有一个恒定的激活,并且在它自己的层中。通常,它连接到所有非输入层。有关详细说明,请参阅此问题:。而且,这不是我的图,而是我从这里得到的:上图中的输入X1,X2不是真正的神经元,它们是……呃,输入。每一个真实的神经元(接受输入、有权重、有激活函数、做计算的东西)都应该有一个偏差。数学上,每个神经元计算φ(b+x1 w1+x2 w2+…+xn wn),其中b是偏差。但习近平只是数字,你无法将其与任何东西联系起来。