Machine learning 递归神经网络是神经网络链吗?

Machine learning 递归神经网络是神经网络链吗?,machine-learning,neural-network,artificial-intelligence,recurrent-neural-network,Machine Learning,Neural Network,Artificial Intelligence,Recurrent Neural Network,我在问,递归神经网络是否是神经网络链 现在,直观地说,RNN是一个神经网络,具有来自过去输出的反馈回路,并根据实现情况,具有从隐藏层到下一个时间戳的隐藏层和/或输入的反馈回路 不包括连接隐藏层的实现,这种实现与神经网络链有什么不同吗 我认为,根据我的理解,这样的实现可以从神经网络链中构建,其中神经网络的每个输入是给定数据的时间戳+最后一个时间戳的输出 你知道这个直觉是否正确吗?或者我遗漏的RNN和ANN之间是否存在任何差异 我也问过我的机器学习教授这个问题,如果有人好奇的话,我可以看看我是否能

我在问,递归神经网络是否是神经网络链

现在,直观地说,RNN是一个神经网络,具有来自过去输出的反馈回路,并根据实现情况,具有从隐藏层到下一个时间戳的隐藏层和/或输入的反馈回路

不包括连接隐藏层的实现,这种实现与神经网络链有什么不同吗

我认为,根据我的理解,这样的实现可以从神经网络链中构建,其中神经网络的每个输入是给定数据的时间戳+最后一个时间戳的输出

你知道这个直觉是否正确吗?或者我遗漏的RNN和ANN之间是否存在任何差异


我也问过我的机器学习教授这个问题,如果有人好奇的话,我可以看看我是否能在收到他的回复后发布他的回复。

有两个重要的修改/区别:

  • 您必须共享“神经网络链”的参数,使其行为类似于递归神经网络
  • 你们的“展开”随着时间的推移而增长——这意味着在第一次迭代中你们的“链”长度为1。第二步-长度2,第N步后-长度N

  • 如果你不介意这两个不同,那么展开的模型与循环网络几乎是一样的。考虑到您将所有必需的数据存储在某个缓冲区中(因为在更新过程中需要“过时”的输出/标签等) 一篇具体的论文能够回答什么是递归神经网络以及它的极限是什么的问题:在本文中,电极被植入猴子的大脑,而递归神经网络充当解释猴子大脑的BCI。另一方面:如果在循环中没有生物生命形式,那么使用神经网络是毫无意义的


    我知道,这只是对OP的一个间接回答,但我的正当理由是,pubmed.gov上的大多数论文都不能作为OpenAccess获得,因此进一步的研究还没有完成。

    生成一个展开型神经网络与创建一个多输入NN(将未使用的参数设置为0)有什么不同?(假设您使用的是sigmoid激活函数)这与sigmoid无关。答案中给出了区别——如果您将其视为一个多列网络,则需要共享参数——然后您需要跨列共享参数。随着时间的推移,您的展开也会增加(因此“大网络”的大小也会增加)当然,就RNN而言,它们的内存需求也在增长,因为您需要在训练期间存储中间激活(但在执行期间不需要)人工神经网络当然是受到大脑的启发,它们可以应用于神经科学的应用。但是,使用人工神经网络并不需要物理大脑,正如你需要一套皮氏培养皿来进行进化计算一样。此外,那篇论文中的人工神经网络不是用来模拟大脑,而是用来映射特定的神经网络猴子手臂运动数据的电信号。有很多非生物启发算法可用于此(它们对基线使用某种卡尔曼滤波器)。ANN可用于非大脑相关的非线性映射。