Nlp huggingface pytorch transformers:如何使用特定值初始化嵌入?

Nlp huggingface pytorch transformers:如何使用特定值初始化嵌入?,nlp,huggingface-transformers,Nlp,Huggingface Transformers,我正在从中微调伯特模型。有没有办法手动设置某个词块的初始嵌入?e、 g.单词“dog”的初始嵌入等于火炬手(768)。谢谢 您可以设置模型的输入嵌入: 您需要从词汇表中了解词条索引,并可以更改嵌入矩阵中的相应行

我正在从中微调伯特模型。有没有办法手动设置某个词块的初始嵌入?e、 g.单词“dog”的初始嵌入等于火炬手(768)。谢谢

您可以设置模型的输入嵌入:

您需要从词汇表中了解词条索引,并可以更改嵌入矩阵中的相应行