Neural network Nguyen Widrow初始化中的偏差单位

我试图用Nguyen Widrow算法编写一个神经网络，用于权重初始化。我对这件事很困惑

Nguyen Widrow算法表示，首先我们计算Beta值，如下所示：

β=0.7*（p^（1/n）））

与：

p=隐藏单元的数量

n=输入单位的数量

我们是否也需要计算n和p的偏差节点？我的意思是，如果总隐藏节点（没有偏差节点）是5，那么p的值应该是6，对吗？还是仍然是5

---

谢谢

首先，人工神经网络中没有偏差节点（单位）。每个节点（单元）都有一个偏置输入以及其他输入。所以，隐藏单位的数量（p）是常数，在你的例子中总是5

---

当你添加偏见时，可能会改变的是输入的数量（n），我在一些文章和教科书中搜索过，没有人解释过。但从例子来看，我认为你不应该把偏见作为一个输入单位。因此，如果有4个输入节点和一个偏差，n将是4。

该偏差将被视为任何其他输入，唯一的区别是它的值保持不变。它自身的属性，会随着学习算法的变化而变化，也应该包含在初始化算法中

例如，看看：

initnw

是一个层初始化函数，它根据Nguyen Widrow初始化算法初始化层的权重和偏差。该算法选择值，以便将层中每个神经元的活动区域大致均匀地分布在层的输入空间中。这些值包含一定程度的随机性，因此每次调用此函数时它们都不相同

---

回答

偏差将计入n：层的输入数量

偏差将不计入p：层中的节点数

---

注意

您可能还需要检查类似的问题：