Python 使用语言模型获取句子的概率_Python_Tensorflow_Deep Learning_Nlp_Language Model

Python 使用语言模型获取句子的概率

python tensorflow deep-learning nlp

Python 使用语言模型获取句子的概率,python,tensorflow,deep-learning,nlp,language-model,Python,Tensorflow,Deep Learning,Nlp,Language Model,我已经使用以下架构培训了一个语言模型 model = tf.keras.Sequential([ tf.keras.layers.Embedding(total_words, 300, weights=[embeddings_matrix], input_length=inputs.shape[1], trainable=False), tf.keras.layers.Bidirectional(tf.keras.layers.LSTM(150)), tf.keras.layers.Den

我已经使用以下架构培训了一个语言模型

model = tf.keras.Sequential([

tf.keras.layers.Embedding(total_words, 300, weights=[embeddings_matrix], input_length=inputs.shape[1], trainable=False),

tf.keras.layers.Bidirectional(tf.keras.layers.LSTM(150)),

tf.keras.layers.Dense(total_words, activation = 'softmax')

])

注意，我已经为此使用了一个预先训练过的单词嵌入层

我现在想做的是，给定一个全新的句子，根据这个语言模型生成序列的概率

这不是预测序列中的下一个单词，而是生成所提供的整个句子的概率

如何在TensorFlow 2中实现这一点？我在TensorFlow 1上看到过类似的问题，但与新版本无关