Machine learning 如何将RNN应用于序列到序列NLP任务?

Machine learning 如何将RNN应用于序列到序列NLP任务?,machine-learning,nlp,recurrent-neural-network,lstm,Machine Learning,Nlp,Recurrent Neural Network,Lstm,我对NLP任务上的序列到序列RNN感到非常困惑。之前,我已经实现了一些分类任务的神经模型。在这些任务中,模型将单词嵌入作为输入,并使用网络末端的softmax层进行分类。但是神经模型是如何完成seq2seq任务的呢?如果输入是单词嵌入,那么神经模型的输出是什么?这些任务包括问答、对话系统和机器翻译。您可以使用编码器-解码器体系结构。编码器部分将您的输入编码为固定长度的向量,然后解码器将该向量解码为您的输出序列,不管这是什么。编码层和解码层可以根据您的目标函数(仍然可能涉及软最大值)共同学习。看看

我对NLP任务上的序列到序列RNN感到非常困惑。之前,我已经实现了一些分类任务的神经模型。在这些任务中,模型将单词嵌入作为输入,并使用网络末端的softmax层进行分类。但是神经模型是如何完成seq2seq任务的呢?如果输入是单词嵌入,那么神经模型的输出是什么?这些任务包括问答、对话系统和机器翻译。

您可以使用编码器-解码器体系结构。编码器部分将您的输入编码为固定长度的向量,然后解码器将该向量解码为您的输出序列,不管这是什么。编码层和解码层可以根据您的目标函数(仍然可能涉及软最大值)共同学习。看看这个模型是如何在神经机器翻译中使用的。解码器在这里一个接一个地发出单词,以便生成正确的翻译。

您可以使用编码器-解码器体系结构。编码器部分将您的输入编码为固定长度的向量,然后解码器将该向量解码为您的输出序列,不管这是什么。编码层和解码层可以根据您的目标函数(仍然可能涉及软最大值)共同学习。看看这个模型是如何在神经机器翻译中使用的。解码器在这里一个接一个地发出单词,以便生成正确的译文