Python ELMo-如何培训可培训参数

我是tensorflow hub的新手，偶然发现了ELMo模型（）

根据原始文件，ELMo表示是隐藏状态激活的加权平均值，这些权重可根据手头的任务（即特定任务）进行训练。正如预期的那样，当我使用tf.trainable_variables（）时，我可以看到4个可训练参数。如何在tensorflow中准确地训练这些变量

---

他们只是提到这些重量是可以训练的。但谁应该训练它呢？我还是埃尔莫模型本身训练它？报纸似乎建议我应该训练它。如果是这样，我如何在tensorflow中对其进行训练？

您可以先将一个模块导入到您的模型中，使用trainable=True，然后将该模型导入到任何其他TF模型中。在该培训过程中，还将培训导入模块一部分的模型重量。您也可以将其用作一个良好的起点，只需将nnlm嵌入替换为ELMo即可