Python 基于RNN模型的CNN权重
是否有可能在RNN模型上使用CNN权重Python 基于RNN模型的CNN权重,python,Python,是否有可能在RNN模型上使用CNN权重 比如你能用CNN的权重来学习每个字母的样子,并用CNN的权重来翻译整个句子吗?这是可能的。对于RNN,您必须定义隐藏状态,以便将其设置为序列中前一个元素上CNN的输出。在句子翻译方面有几种最先进的模式。其中一个是变压器,它利用卷积(如CNN中的卷积)和自我注意。然而,在RNN方案中并没有这样做,因为RNN由于其顺序性,训练和评估速度较慢。还请注意,RNN较差(主要)是由于其短期记忆问题。您可能想阅读LSTM(成为其继任者)
比如你能用CNN的权重来学习每个字母的样子,并用CNN的权重来翻译整个句子吗?这是可能的。对于RNN,您必须定义隐藏状态,以便将其设置为序列中前一个元素上CNN的输出。在句子翻译方面有几种最先进的模式。其中一个是变压器,它利用卷积(如CNN中的卷积)和自我注意。然而,在RNN方案中并没有这样做,因为RNN由于其顺序性,训练和评估速度较慢。还请注意,RNN较差(主要)是由于其短期记忆问题。您可能想阅读LSTM(成为其继任者)