Neural network Word2vec:投影层共享是什么意思?

Neural network Word2vec:投影层共享是什么意思?,neural-network,word2vec,language-model,Neural Network,Word2vec,Language Model,我教授的幻灯片将“神经网络语言模型”(Bengio et al.,2003)与谷歌的word2vec(Mikolov et al.,2013)进行了比较。它说,与Bengio的模型不同,在word2vec中,“投影层是共享的(不仅仅是权重矩阵)” 这是什么意思?分享什么 另一个不同之处是,米科洛夫的模型中没有隐藏层,上下文包含过去和未来的单词(而本吉奥的模型中只考虑过去的单词) 我理解后一种差异,但我很难理解“共享层”的概念

我教授的幻灯片将“神经网络语言模型”(Bengio et al.,2003)与谷歌的word2vec(Mikolov et al.,2013)进行了比较。它说,与Bengio的模型不同,在word2vec中,“投影层是共享的(不仅仅是权重矩阵)”

这是什么意思?分享什么

另一个不同之处是,米科洛夫的模型中没有隐藏层,上下文包含过去和未来的单词(而本吉奥的模型中只考虑过去的单词)

我理解后一种差异,但我很难理解“共享层”的概念