Neural network 单词的分布式表示:如何生成?

Neural network 单词的分布式表示:如何生成?,neural-network,word2vec,Neural Network,Word2vec,我一直在读关于神经网络以及CBOW和Skip Gram是如何工作的,但我想不出一件事:如何生成单词向量本身 在我看来,我总是使用这些方法来计算权重矩阵,我使用单词向量来调整它,我正在努力理解我是如何首先得到单词向量的 当我找到Rumelhart的论文时,我想我会在那里找到答案,但我得到的都是一样的:将预期输出与我找到的输出进行比较,计算出误差,并调整模型。但我的预期产出是谁?我是怎么得到的 例如,Omer Levy和Yoav Goldberg以非常清晰的方式(在稀疏和显式单词表示的语言规则中)解

我一直在读关于神经网络以及CBOW和Skip Gram是如何工作的,但我想不出一件事:如何生成单词向量本身

在我看来,我总是使用这些方法来计算权重矩阵,我使用单词向量来调整它,我正在努力理解我是如何首先得到单词向量的

当我找到Rumelhart的论文时,我想我会在那里找到答案,但我得到的都是一样的:将预期输出与我找到的输出进行比较,计算出误差,并调整模型。但我的预期产出是谁?我是怎么得到的


例如,Omer Levy和Yoav Goldberg以非常清晰的方式(在稀疏和显式单词表示的语言规则中)解释了显式向量空间表示的工作原理,但是我找不到关于Word分布式表示如何工作的解释。

交叉验证会让您得到更好的响应您看过word2vec的原始论文了吗?-你会在交叉验证中得到更好的回复你看过word2vec的原始论文了吗-