Neural network 在神经网络中，偏差项的权重是否在反向传播中得到更新？

在神经网络中，我试图把它编码出来，但有一部分被卡住了。偏差项的权重是否在反向传播中得到更新？我在这里遵循算法，他们似乎没有更新它，他们为偏差项权重选择了一些任意值。这是否意味着偏差项的输出为1，其权重不应改变？

一般来说：是的，偏差权重应更新并包括在训练中，就像神经网络中的任何其他权重一样（也包括在反向传播中）

在您发布的示例中，偏置

b1

添加到隐藏层的两个神经元，偏置

b2

添加到输出层的两个中子

Hidden layer:
    h1 = i1*w1 + i2*w2 + 1*b1
    h2 = i1*w3 + i2*w4 + 1*b1

Output layer:
    o1 = h1*w5 + h2*w6 + 1*b2
    o2 = i2*w7 + h2*w8 + 1*b2

在本例中，初始偏差是固定的

b1 = 0.35
b2 = 0.60

这意味着隐藏中子的偏压始终精确为0.35，而输出中子的偏压始终精确为0.60。然而，这不是通常的做法，因为您希望训练神经网络以找到“好”的偏差，就像您希望训练神经网络以找到好的权重一样

另外请注意，在您提供的链接的评论中，另一位用户询问了为什么偏见没有改变，作者回答说，引用：

“嘿，在我读过的教程中，他们没有更新偏见 这就是为什么我没有把它包括在这里。”

缺乏具体的“原因”可能意味着本示例/教程的作者，无论多么精通NN，都不是NN方面的专家，因此你不应该在这个具体示例中对偏见没有改变的情况下，进行太多的强调（没有双关语的意图…）

---

如果你真的想在反向传播的背景下深入研究神经网络，我宁愿向你推荐迈克尔·尼尔森（Michael Nielsen）关于神经网络和深度学习的优秀书籍，特别是关于本主题的第2章。请注意，这里的偏差权重被视为神经元数据传输的权重

Michael是一名谷歌研究员，发表了大量关于高级NN和深度学习的公开文章

反向传播的核心是部分 派生词∂C/∂关于任何权重w的成本函数C的w （或偏差b）在网络中。这个表达式告诉我们速度有多快 当我们改变权重和偏差时，成本会发生变化。

---

如果我想更新偏差权重，我该怎么做，因为偏差神经元没有输入？回想一下，在最简单的形式中，NN中的权重可以概括为用于训练NN的遗传算法中染色体所持有的特定数据。因此，为了达到这一目的，偏差权重被隐式测试——就像神经元权重一样——通过这些染色体，可以得到非常合适的w.r.t.测试数据。机器学习和遗传算法的进化方面意味着我们不必处理细节，比如对特定权重（包括偏差权重）的显式反馈。如果你有时间的话，我向你推荐我上面链接过的迈克尔的书。嘿，既然你提到了迈克尔，我就请你看这本。他要求我们证明成本偏差的变化等于错误。（第2章BP3）请您提出一个问题，回答自己并评论链接好吗here@MadhusoodanP不，我不会为你解决这个问题。这是家庭作业吗？这是一个编程帮助论坛，不是一个免费的解决方案供应商论坛（我们这样做是免费的）。让我为你写问题的懒惰是。。。尽管如此，您可以尝试在mathoverflow上问这个问题，包括您自己的尝试。@dfri哦，对不起，这不是家庭作业问题。我正在为我的项目学习人工神经网络，为我的懒惰感到抱歉。：）