Pytorch nn.Embedding中未更新权重_Pytorch_Word Embedding

Pytorch nn.Embedding中未更新权重

pytorch

Pytorch nn.Embedding中未更新权重,pytorch,word-embedding,Pytorch,Word Embedding,我用预先训练好的嵌入矩阵加载了PyTorch的nn.嵌入模块。我将其设置为可培训，如下所示 self.embedding_layer = nn.Embedding(self.vocab_size, self.embed_size, paddding_idx=self.padding_idx) self.embedding_layer.weight = nn.Parameter(self.embedding) self.embedding_layer.weight.requires_grad

我用预先训练好的嵌入矩阵加载了PyTorch的nn.嵌入模块。我将其设置为可培训，如下所示

self.embedding_layer = nn.Embedding(self.vocab_size, self.embed_size, paddding_idx=self.padding_idx)  
self.embedding_layer.weight = nn.Parameter(self.embedding)
self.embedding_layer.weight.requires_grad = True

我使用双向选通递归单元网络处理这个输出。在模型训练后，我检查了nn.嵌入的权重是否被更新。权重没有更新。model.embedding\u layer.weight和“self.embedding”权重相同。我检查了model.u层的梯度。它们都是零

你能帮帮我吗？谢谢。

欢迎来到StackOverflow！你能把训练模型的代码添加到问题中吗？欢迎来到StackOverflow！你能把训练模型的代码添加到问题中吗？