Neural network 神经网络回归模型输出层的激活函数

这些天我一直在用神经网络做实验。我遇到了一个关于要使用的激活函数的一般性问题。这对我来说可能是众所周知的事实，但我无法正确理解。我看到的很多例子和论文都在研究分类问题，它们要么使用sigmoid（在二进制情况下）要么使用softmax（在多类情况下）作为输出层的激活函数，这是有意义的。但我还没有看到在回归模型的输出层中使用任何激活函数

---

所以我的问题是，我们选择在回归模型的输出层中不使用任何激活函数，因为我们不希望激活函数限制或限制值。输出值可以是任何数字，也可以是数千，所以像sigmoid到tanh这样的激活函数是没有意义的。还是有其他原因？或者我们实际上可以使用一些针对此类问题的激活函数？

如果在NN的输出层中有一个Sigmoid作为激活函数，则永远不会得到小于0且大于1的值

基本上，如果您试图预测的数据分布在该范围内，您可以使用Sigmoid函数进行处理，并测试您的预测在训练集上是否表现良好

更一般地说，在预测数据时，您应该使用最有效的方法来表示数据的函数

---

因此，如果你的真实数据不能很好地拟合Sigmoid函数，你必须考虑任何其他函数（例如，一些多项式函数、周期函数或任何其他函数或它们的组合），但你也应该始终注意构建成本函数和评估导数的难易程度。

对于线性回归类型的问题，您可以简单地创建输出层，无需任何激活函数，因为我们对数值感兴趣，无需任何转换

更多信息：

分类：

---

您可以使用sigmoid、tanh、Softmax等。

只需使用线性激活函数，而不限制输出值范围，除非您对此有合理的假设