Deep learning NLP采用何种深度学习模式?

Deep learning NLP采用何种深度学习模式?,deep-learning,nlp,Deep Learning,Nlp,我要做一个模型,以文本和关键字列表作为输入,并给出一个布尔值作为输出。 模型必须输出文本是否与这些关键字相关。 我不知道从哪里开始,也不知道使用什么型号。 LSTM通常用于NLP,但它只接受一些文本作为输入并预测下一个单词,因此我不知道它是否可以使用。您试图解决的问题称为文本分类 LSTM可用于解决您的问题。它们可以用来预测句子中的下一个单词,但不一定。一般来说,网络会逐字、逐子字或逐字符地获取输入,并基于此更新其隐藏状态。这些状态可以用来预测下一个单词是什么,但必须如此。例如,您可以获取网络的

我要做一个模型,以文本和关键字列表作为输入,并给出一个布尔值作为输出。 模型必须输出文本是否与这些关键字相关。 我不知道从哪里开始,也不知道使用什么型号。
LSTM通常用于NLP,但它只接受一些文本作为输入并预测下一个单词,因此我不知道它是否可以使用。

您试图解决的问题称为文本分类

LSTM可用于解决您的问题。它们可以用来预测句子中的下一个单词,但不一定。一般来说,网络会逐字、逐子字或逐字符地获取输入,并基于此更新其隐藏状态。这些状态可以用来预测下一个单词是什么,但必须如此。例如,您可以获取网络的最终状态并在其上运行分类器。在这种情况下,LSTM通常是双向的:有两个网络,每个网络从文本的不同端运行

最新流行的LSTM替代方案是Transformer架构。使用预先训练好的伯特模型似乎是解决问题的好方法,例如,使用