Machine learning 如何在Fastai学习者语言模型中从编码器获取句子嵌入_Machine Learning_Nlp_Pytorch_Fast Ai

Machine learning 如何在Fastai学习者语言模型中从编码器获取句子嵌入

machine-learning nlp pytorch

Machine learning 如何在Fastai学习者语言模型中从编码器获取句子嵌入,machine-learning,nlp,pytorch,fast-ai,Machine Learning,Nlp,Pytorch,Fast Ai,我能够使用快速人工智能对语言模型进行微调。我想从句子相似性的微调模型中提取句子嵌入。如何获取编码器模型嵌入？也可以将嵌入与dot产品进行比较，就像其他模型（如USE）中的其他嵌入一样 data_lm = TextLMDataBunch.from_df(train_df = se1, valid_df = se2, path = "",text_cols='text') learn = language_model_learner(data_lm,drop_mult=0.7,pretrained=

我能够使用快速人工智能对语言模型进行微调。我想从句子相似性的微调模型中提取句子嵌入。如何获取编码器模型嵌入？也可以将嵌入与dot产品进行比较，就像其他模型（如USE）中的其他嵌入一样

data_lm = TextLMDataBunch.from_df(train_df = se1, valid_df = se2, path = "",text_cols='text')
learn = language_model_learner(data_lm,drop_mult=0.7,pretrained=True,arch=AWD_LSTM)
learn.fit_one_cycle(3, 1e-01)

我的代码在上面，如何从learn中获取编码？

这应该会为您提供编码器（这是一个嵌入层）：

learn.model[0]。编码器