Neural network 我应该使用什么权重来创建一个整洁的神经网络?

Neural network 我应该使用什么权重来创建一个整洁的神经网络?,neural-network,Neural Network,在阅读了几篇关于神经进化的论文后,我意识到关于如何在神经网络开始时对每个突触进行加权的信息非常少。我知道在一开始,使用NEAT,所有的输入神经元都连接到输出神经元,然后从那里开始进化。然而,你是应该在一开始就随机给每个突触称重,还是简单地将每个突触设置为1?这其实并不重要,最重要的是你如何改变基因组中连接的权重 然而,将每个基因组连接的权重设置为一个随机值是最好的:它就像一个“正确”方向的小随机搜索。如果将每个基因组的所有权重设置为相同,那么基因组中的权重将非常相似:请记住,一个基因组有很多连接

在阅读了几篇关于神经进化的论文后,我意识到关于如何在神经网络开始时对每个突触进行加权的信息非常少。我知道在一开始,使用NEAT,所有的输入神经元都连接到输出神经元,然后从那里开始进化。然而,你是应该在一开始就随机给每个突触称重,还是简单地将每个突触设置为1?

这其实并不重要,最重要的是你如何改变基因组中连接的权重

然而,将每个基因组连接的权重设置为一个随机值是最好的:它就像一个“正确”方向的小随机搜索。如果将每个基因组的所有权重设置为相同,那么基因组中的权重将非常相似:请记住,一个基因组有很多连接,突变率为
0.3
,例如有两个突变选项,只有
15%
的种群在一代之后至少会有一个不同的体重


所以,让它成为随机的,比如
random()*.2-.1
(分布在
[-0.1,0.1]
)。只需找出最适合您的价值观。

非常感谢您的澄清!