Neural network 这些偏倚神经元是如何产生的？

我正在尝试实现简单整洁。我从各种来源了解到有4种类型的“节点”：输入神经元、隐藏神经元、输出神经元和所谓的偏差神经元。我看不出哪个过程可能会产生偏见神经元，如第16页所述

我知道变异时可能会产生新的神经元，但这需要两个神经元之间的现有连接，而这两个神经元将被这个新神经元分裂（基于，第10页）。然而，偏倚神经元没有“输入”连接，所以它显然不能以上述方式产生。那么，具体来说，NEAT是如何创建偏差神经元的呢？

在NEAT上下文中，偏差神经元（节点）只是一个始终处于活动状态的特殊输入神经元。它总是包含在构造中，因为它在许多情况下似乎有助于进化

所以，简而言之，你不会像不会创建新的输入或输出节点那样创建偏差神经元；这些都是由您的问题定义的

---

您是正确的，标准的NEAT实现通过拆分现有连接引入了新的隐藏节点。隐藏节点是你在NEAT（据我所知，在一般的神经进化中）中创建或破坏的唯一神经元。

当我们谈论一般的神经网络时，我知道偏见是神经元的一部分。然而，当我们谈论“整洁”时，情况就不同了。在我提到的这篇论文中，它确实被称为“偏差单元”，而不是“偏差神经元”，但它仍然是一个分离的节点，不是神经元的一部分。这里有一个更好的例子：在第一张图片中，你可以清楚地看到一个“偏差神经元”（本文中称之为“偏差神经元”），它只与其他一些隐藏的神经元相连。我非常理解你所说的“它可能会产生新的染色体”的意思，但正如我所说的，根据提到的论文和其他来源，神经元只能通过突变来增加——新的神经元分裂了现有的连接。作者并没有说任何关于突变神经元基因组会随意添加新神经元的事情。而且，交叉不能产生新的神经元，我想这是很清楚的。然后，我真的不明白作者打算如何在整洁处理过程中创建偏见神经元，这基本上是我的问题。