Nlp 这个神经网络模型存在吗？

我正在寻找一个具有特定特征的神经网络模型。这个模型可能不存在

我需要一个不像传统人工神经网络那样使用“层”的网络。相反，我想要一个更具生物性的模型

该模型将容纳大量相互连接的神经元，如下图所示。一些神经元（在图的底部）将接收输入信号，级联效应将导致连续的、连接的神经元根据信号强度和连接重量可能激发。这不是什么新鲜事，但是，没有明确的层…只是越来越远的间接连接

如您所见，我还将网络划分为多个部分（圆圈）。每个圆圈代表一个语义域（一个语言学概念），它是围绕一个概念的核心信息；语义域本质上是一个概念

截面内节点之间的连接比不同截面的节点之间的连接具有更高的权重。因此，“car”节点之间的连接比“English”节点与“car”节点之间的连接更紧密。因此，当单个部分中的神经元激发（被激活）时，很可能整个（或大部分）部分也会被激活

总之，我需要将输出模式用作进一步输出的输入，以此类推。我所追求的是级联效应

我希望这是有道理的。如有需要，请要求澄清

现有的模型中有没有合适的模型，我已经描述过的模型

总之，我需要将输出模式用作进一步输出的输入，等等。级联效应是我所追求的

这听起来像是一个带有多个隐藏层的前馈网络。不要害怕这里的“图层”这个词，如果有多个图层，就像你在这里画的一样。。类似于5-5-7-6-7-6-6-5-6-5结构化网络（5个输入，8个隐藏层，每个层中有不同数量的节点，5个输出）

您可以按自己喜欢的任何方式将节点从一层连接到另一层。您可以通过简单地使用常量零作为它们之间的权重来保持一些不连接，或者如果使用面向对象编程，只需将不需要的连接排除在连接阶段之外。对于标准NN模型，跳过层可能会更困难，但一种方法是为权重需要跨越的每一层使用虚拟节点。只需将原始输出*权重值从节点复制到虚拟对象就等同于跳过一个层，这也将保持标准NN模型的完整性

如果您希望网络只输出一些1和0，则可以在每个节点中使用一个简单的步长函数作为激活函数：值大于0.5时为1，否则为0

---

我不确定这是否是你想要的，但这样你应该能够建立一个你描述的网络。然而，我不知道你打算如何教你的网络生成一些语义域。为什么不让网学习自己的重量呢？这可以通过简单的输入输出示例和反向传播算法实现。如果您使用标准模型来构建您的网络，那么学习的数学也不会与任何其他前馈网络有任何不同。最后但并非最不重要的一点是，您可能会找到一个适合此任务的库，只需对代码进行少量更改或根本不进行任何更改。

您的神经网络类似于使用进化算法（例如遗传算法）创建的神经网络

有关详细信息，请参阅以下文章

对于这种类型的神经网络进行了总结。神经元和它们之间的联系是用进化技术创造出来的。因此，它们没有严格的层方法。Hans使用以下技巧：

“遗传操作：

交叉算子通过在两个神经网络之间交换部分截面生成新的子代。它随机选择两个不同的神经网络，并选择一个隐藏节点作为轴心点。然后，它们根据所选轴心点交换连接链接和相应的权重

变异算子改变连接链接和随机选择的神经网络的相应权重。它执行两种操作之一：添加新连接或删除现有连接

变异算子随机选择神经网络的两个节点。 如果它们之间没有连接，它将使用随机权重连接两个节点。
否则，将删除连接链接和权重信息。 "

下图摘自惠特利的文章

@ARTICLE{Han2005Evolutionary,
  author = {Sang-Jun Han and Sung-Bae Cho},
  title = {Evolutionary neural networks for anomaly detection based on the behavior
of a program},
  journal = {Systems, Man, and Cybernetics, Part B: Cybernetics, IEEE Transactions
on},
  year = {2005},
  volume = {36},
  pages = {559 -570},
  number = {3},
  month = {june },

}

---

涉及遗传算法的答案听起来不错（特别是引用达雷尔·惠特利的工作的答案）

另一种选择是简单地随机连接节点？这或多或少是通过递归神经网络实现的

---

你也可以看看LeCun非常成功的卷积神经网络，例如一个有很多层的神经网络，有点像你在这里描述的，是为特定目的而设计的。

你的网络也模仿了这一点

但这并不能真正让网络学习，而是被取代

这里可能会涉及到这一点

---

NN？大多数神经网络被期望学习或推广。。。我很好奇，如果没有学习机制（因为权重没有修改），你希望网络如何学习。当然，除非你对推广或学习不感兴趣，而只对研究连锁反应感兴趣。。。这本身应该很有趣！Checkout和@Shayan RC我认为，在这个模型中，权重仍然会随着时间的推移进行某种调整，并且会在节点之间建立更多的连接。@ChadJohnson您没有指定任何权重修改机制，因此我的Conful

@article{whitley1995genetic,
  title={Genetic algorithms and neural networks},
  author={Whitley, D.},
  journal={Genetic algorithms in engineering and computer science},
  pages={203--216},
  year={1995},
  publisher={Citeseer}
}