Machine learning 深层神经网络中有多少隐藏层

有谁能告诉我“通常”一个深层神经网络有多少层？有多深才足够

据我所知，仍然很难说隐藏层的具体数量。但有谁能告诉我，像一些例子一样，研究人员和开发人员在他们的深度学习项目中会使用多少隐藏层

---

非常感谢。

这完全取决于您尝试解决的问题。层越多，训练网络就越困难（需要更多的计算能力）。然而，这个层次越深，它能解决的问题就越复杂

杰弗里·辛顿在他的信中写道：

一个AI程序应该使用多少行代码，应该使用多长时间 每行应为-这显然是一个愚蠢的问题

•深度信念网 给创造者很多自由

–如何最好地利用这一点 自由取决于任务

–有足够窄的层，我们可以建模 二元向量上的任何分布（Sutskever&Hinton，2007）

•如果自由吓到你，坚持浅层模型的凸优化 这显然不适合做人工智能

---

据我所知，层数通常不是很大。（ImageNet大规模视觉识别挑战赛2014）例如，谷歌团队使用了一个22层的网络。

这不可能正确回答，因为没有特定的“深度神经网络”，而是一个遵循深度学习范式的架构集合。这些在深度上完全不同。如果你真的感兴趣，你必须选择一个，然后在谷歌学者网站上阅读最新的论文。22考虑到渐变消失以及CNN流行之前人们所做的事情，层是一个巨大的数字。所以我不会称之为“不大”。但同样，这是一个CNN，有一些深网无法处理那么多层。@runDOSrun我同意，但是如果你不知道幕后到底发生了什么，22层可能看起来是一个令人怀疑的小数字。顺便说一句，消失梯度问题只适用于梯度方法。如果使用PSO或GA算法进行训练，则不会发生这种情况。虽然这些方法要慢得多。我知道这一点，但我不确定OP能做到。因此，给出任何数字可能对他都没有帮助，因为他的措辞让我不确定他是否知道架构和训练的差异。而且他们使用ReLU，ReLU不像sigmoid和tanh函数那样面临梯度消失问题。