Spacy ELMo/BERT预培训参考文本
如何发行： spaCy提到，如果数据很少，ELMo/BERT在NLP任务中非常有效，因为这两种语言具有非常好的迁移学习特性Spacy ELMo/BERT预培训参考文本,spacy,pre-trained-model,elmo,Spacy,Pre Trained Model,Elmo,如何发行： spaCy提到，如果数据很少，ELMo/BERT在NLP任务中非常有效，因为这两种语言具有非常好的迁移学习特性 我的问题是：迁移学习相对于什么模式。如果你有一个狗的语言模型，那么为kangeroos找到一个好的语言模型就容易多了（我的案例与生物学有关，有很多术语）？好吧，BERT和ELMo是在庞大的数据语料库（BERT是在16GB的原始文本上训练的）上训练的。这意味着，从这些模型生成的嵌入是通用的，这将在大多数任务中利用语言模型的功能 由于您的任务与生物学有关，您可以查看诸如BioB
我的问题是：迁移学习相对于什么模式。如果你有一个狗的语言模型，那么为kangeroos找到一个好的语言模型就容易多了（我的案例与生物学有关，有很多术语）？好吧，BERT和ELMo是在庞大的数据语料库（BERT是在16GB的原始文本上训练的）上训练的。这意味着，从这些模型生成的嵌入是通用的，这将在大多数任务中利用语言模型的功能
由于您的任务与生物学有关，您可以查看诸如BioBERT（）之类的备选方案。谢谢，我来查看一下