Python TensorFlow中高效的动态单词嵌入

我想知道应该在哪里用TensorFlow训练动态word2vec模型。也就是说，每个单词在每个时间段（t）具有不同的嵌入。基本上，我对跟踪词义的动态感兴趣

我正在考虑修改skip gram word2vec目标，但还有一个“t”维度，我需要在可能性中求和。此外，我在似然函数中的单词嵌入上有一个l2时间正则化器，它将随着时间的推移连接这些嵌入，因此单词嵌入会随着时间的推移而平滑发展

举个例子，想想本文第14页（第3.2节）（）上的目标函数，除了为了使事情更简单，我有一个l2惩罚，而不是不可微的l1

---

我可以在R中实现这一点，但它无法扩展。因此，我正在考虑使用TensorFlow（我是新手）。因此，非常感谢您的帮助

你朝这个方向做了什么吗？愿意分享你的发现吗