Neural network 关于递归神经网络,什么是时间步长?

Neural network 关于递归神经网络,什么是时间步长?,neural-network,deep-learning,recurrent-neural-network,Neural Network,Deep Learning,Recurrent Neural Network,我对RNN和LSTM还比较陌生,但我花了相当长的时间从互联网上的各种资源中学习。我收集到的是,递归神经网络中的时间步长与前馈神经网络中的前向传递相同。但事实证明这是错误的。那么它是什么?向前传递涉及通过网络完全运行一个数据项(例如完整的句子),直到该项被完全处理(即我们有分类输出) 时间步长是一个过程的一部分,在这个过程中,节点输入被处理成输出,然后这些输出被反馈到下一个节点——通常反馈到前一个输入。所以你想说的基本上是,前一层激活下一层是一个时间步长。那么时间步长的“长度”是多少?我们如何控制

我对RNN和LSTM还比较陌生,但我花了相当长的时间从互联网上的各种资源中学习。我收集到的是,递归神经网络中的时间步长与前馈神经网络中的前向传递相同。但事实证明这是错误的。那么它是什么?

向前传递涉及通过网络完全运行一个数据项(例如完整的句子),直到该项被完全处理(即我们有分类输出)


时间步长是一个过程的一部分,在这个过程中,节点输入被处理成输出,然后这些输出被反馈到下一个节点——通常反馈到前一个输入。

所以你想说的基本上是,前一层激活下一层是一个时间步长。那么时间步长的“长度”是多少?我们如何控制它?对,这是一个很好的描述方式。“长度”由拓扑结构控制:在一次输入到输出过程中,感知器处理的信息时间单位是多少?我习惯于音频流将输入解析成不同大小的片段,每个片段都有几毫秒长,对应一个子音素语音元素。文本流通常一次前进一个单词(忽略停止词)。您描述了我们如何控制长度。但时间步的长度是多少?该控件定义了时间步的长度。模型本身没有外部时间的内在意义--
timestep
是这个意义上的时间单位。