Tensorflow 在lstm语言模型中使用预先训练过的word2vec?
我使用tensorflow来训练Tensorflow 在lstm语言模型中使用预先训练过的word2vec?,tensorflow,lstm,word2vec,Tensorflow,Lstm,Word2vec,我使用tensorflow来训练LSTM语言模型,代码来自 根据这篇文章,似乎若我使用预先训练好的word2vec,效果会更好 使用word2vec和GloVe等单词嵌入是提高模型准确性的常用方法。使用word2vec或GloVe学习的低维向量没有使用一个热向量来表示我们的单词,而是带有语义含义——相似的单词有相似的向量。使用这些向量是一种预训练形式 因此,我想使用word2vec来重做培训,但我对如何做有点困惑 嵌入代码如下所示: with tf.device("/cpu:0"): emb
LSTM
语言模型,代码来自
根据这篇文章,似乎若我使用预先训练好的word2vec,效果会更好
使用word2vec和GloVe等单词嵌入是提高模型准确性的常用方法。使用word2vec或GloVe学习的低维向量没有使用一个热向量来表示我们的单词,而是带有语义含义——相似的单词有相似的向量。使用这些向量是一种预训练形式
因此,我想使用word2vec
来重做培训,但我对如何做有点困惑
嵌入代码如下所示:
with tf.device("/cpu:0"):
embedding = tf.get_variable(
"embedding", [vocab_size, size], dtype=data_type())
inputs = tf.nn.embedding_lookup(embedding, input_.input_data)
如何将此代码更改为使用预先培训的word2vec
?