Neural network 具有随机连接的神经网络还能正常工作吗？

假设我们有一个具有n层的神经网络，其中的连接不只是从层i到层i+1，而是可以从任何层i到任何层k，使得k>i。例如从第1层直接连接到第3层，或从第2层直接连接到第n层，等等

---

给定任意的训练函数和为每一层选择的激活函数，这样的神经网络还能正常工作吗？

我认为简单的答案是肯定的，但是，与神经网络一样，这取决于你的问题

您在问题中描述的体系结构类型称为“跳过层”模型。有关跳过层连接的简要讨论，您可能希望查看以下联机资源：

小结：跳过层连接可以工作，但它们工作的好坏在很大程度上取决于您的问题，以及您的网络模型的其余部分是如何构建和优化的。

对于（任何）NN，您得到的是链接激活功能的组合

只要所有连接的权重都能提供良好的分类结果，那么跳过某些层就不重要了

从数学上讲，你仍然可以使用链式规则来做反向传播，我想它比逐层反向传播要干净

我看到的唯一问题是，由于跳过了太多层，您的模型可能不够复杂，无法捕捉输入和输出之间的关系，这对于NN来说通常不是问题