Neural network 为什么我们需要神经网络中的偏差？

我们在神经网络中有权重和优化器
为什么我们不能只使用W*输入，然后应用激活，估计损失并将其最小化
为什么我们需要做W*input+b？

---

谢谢你的回答

有两种方法来思考为什么偏倚在神经网络中是有用的。第一个是概念性的，第二个是数学性的

神经网络的灵感来源于生物神经元。其基本思想是人类神经元接受一系列输入并将它们“相加”。如果输入的总和大于某个阈值，则神经元将“激发”（产生输出，输出到其他神经元）。这个阈值本质上与偏差是一样的。因此，通过这种方式，人工神经网络中的偏差有助于复制真实人类神经元的行为

考虑偏差的另一种方法是简单地考虑任何线性函数，y=mx+b。假设你用y来近似线性函数z。如果z有一个非零的z截距，并且y的方程中没有偏差（即y=mx），那么y永远无法完全拟合z。类似地，如果网络中的神经元没有偏差项，那么网络很难近似某些函数

---

综上所述，在神经网络中你不“需要”偏差——事实上，最近的发展（如批量标准化）已经使卷积神经网络中的偏差减少了。

请参考：感谢您提供令人惊讶的详细解释！我真的很喜欢在使用线性函数近似的情况下，偏差的意义变得多么明显。谢谢你这个很有说明性的回答。