Warning: file_get_contents(/data/phpspider/zhask/data//catemap/8/swift/19.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Neural network 窗口如何影响跳转程序的准确性?_Neural Network_Word2vec_Word Embedding - Fatal编程技术网

Neural network 窗口如何影响跳转程序的准确性?

Neural network 窗口如何影响跳转程序的准确性?,neural-network,word2vec,word-embedding,Neural Network,Word2vec,Word Embedding,我想知道skip gram模型的窗口大小如何影响单词嵌入中预测相似单词的准确性。在什么情况下准确度会下降和上升 谢谢 当训练过程试图逐步提高模型对中心目标词的相对激活度时,在输入附近的词后,在训练过程中不会评估准确的预测精度,精度较高的模型也不一定比精度较低的模型“更好” 对于创建具有有用相对排列的词向量集来说,像预测中心词一样进行的训练非常有用 所以,对于word2vec的大多数用法,您的问题实际上并不相关。您不应选择导致word2vec内部培训任务达到最佳准确性的窗口值;您应该选择一个窗口,

我想知道skip gram模型的窗口大小如何影响单词嵌入中预测相似单词的准确性。在什么情况下准确度会下降和上升


谢谢

当训练过程试图逐步提高模型对中心目标词的相对激活度时,在输入附近的词后,在训练过程中不会评估准确的预测精度,精度较高的模型也不一定比精度较低的模型“更好”

对于创建具有有用相对排列的词向量集来说,像预测中心词一样进行的训练非常有用

所以,对于word2vec的大多数用法,您的问题实际上并不相关。您不应选择导致word2vec内部培训任务达到最佳准确性的
窗口
值;您应该选择一个
窗口
,该窗口为您正在考虑的任何下游用途提供最佳的词向量

(如果出于学术/好奇心的原因,您需要知道问题的答案,那么您需要运行一个实验:尝试许多
窗口
值,然后让模型预测单词,并比较准确度。不过,请注意,许多word2vec实现甚至没有为单个单词预测提供API,因为这是不需要的用于培训或大多数下游用途。)