Neural network 阶跃函数与S形函数

我不太明白为什么sigmoid函数（对于神经网络）比阶跃函数更有用。。。希望有人能给我解释一下。提前谢谢。

这取决于您处理的问题。对于简单的二元分类，一个阶跃函数是合适的。当通过引入噪声或不确定性来构建更具生物真实感的网络时，Sigmoids非常有用。sigmoids的另一个完全不同的用途是用于数值延拓，即在对模型中的某些参数进行分岔分析时。光滑系统的数值延拓更容易（非光滑系统的数值延拓非常棘手）。

通常只在早期类型的神经网络中有用，可用于在输入数据不稳定的情况下进行分类

然而，更有趣的是，它们是一般的函数逼近器，并且能够区分不可线性分离的数据

多层感知器的训练使用。反向传播的要求是激活函数。这是因为反向传播使用此函数更新网络权重

Heaviside阶跃函数在x=0时不可微，在其他地方其导数为0。这意味着梯度下降将无法在更新权重方面取得进展，反向传播将失败

---

没有这个缺点，这就解释了它在神经网络领域作为激活函数的有用性。

我认为最常见的乙状结肠激活是简单的回归。这是一个漂亮的答案。建立所需的上下文并进行终止。非常感谢。