Machine learning 什么时候应该使用线性神经网络，什么时候应该使用非线性神经网络？

我使用前馈，梯度下降反向传播神经网络

目前我只研究过非线性网络，其中tanh是激活函数

我在想。 对于具有非线性激活函数的神经网络，您会给出什么样的任务？对于线性激活函数，您会给出什么样的任务

我知道带线性激活函数的网络用于解决线性问题。 这些线性问题是什么？ 有什么例子吗

---

谢谢

我说永远不会，因为线性函数的组合仍然是线性的，使用具有线性激活的神经网络只是使线性回归复杂化的一种方法

---

选择线性模型还是更复杂的模型取决于你自己，取决于你拥有的数据；这就是（其中一个原因）为什么在培训期间通常会保留一些数据，并使用这些数据来验证模型。其他测试模型的方法有残差分析、假设检验等等

你是说线性神经元激活函数吗？是的，我会更新帖子。对不起，我对这一点比较陌生，不太清楚如何正确命名。你试过这两种方法吗：1。交叉验证，2。在交叉验证上发布问题？什么是交叉验证？我对这个网站很陌生。在做机器学习之前先弄一本关于机器学习的书。对不起，如果这听起来有点意思的话。我正在使用神经网络进行模式识别。问题是存在一种模式，然后有可能累积魏瑟模式的提示，例如一个输入是星期一（星期一等），另一个输入是一年一个月（一月等）然后数据本身有9个输入，模式可能隐藏，然后输出告诉我，这是我训练神经网络识别的特定模式的概率。因为你想要一个概率，所以至少在输出层使用乙状结肠激活（应该只有一个神经元）。如果模式是时间相关的，您可能应该切换到LSTM网络，或者至少提供多个“快照”（当前和过去几个月）作为前馈网络的输入