Neural network 用遗传算法改变神经网络中的权值和偏差

Neural network 用遗传算法改变神经网络中的权值和偏差,neural-network,genetic-algorithm,normal-distribution,mutation,uniform-distribution,Neural Network,Genetic Algorithm,Normal Distribution,Mutation,Uniform Distribution,我有一个遗传算法进化出一个神经网络群体 到目前为止,我使用random.randn(Python)对权重或偏差进行变异,这是一个均值为0的正态分布的随机值 它工作得“很好”,我用它成功地完成了我的项目,在给定的时间间隔内使用均匀分布不是更好吗 我的直觉是,这将使我的人际网络更加多样化。我认为,这个问题没有简单的解决办法。在正态分布的情况下,平均数周围的数字有更多的机会被数字生成器“选择”,均匀分布给所有数字几乎相等的机会。这一点很清楚,但对这个问题的答案是,机会均等意味着更好的结果吗?根据我的说

我有一个遗传算法进化出一个神经网络群体

到目前为止,我使用random.randn(Python)对权重或偏差进行变异,这是一个均值为0的正态分布的随机值

它工作得“很好”,我用它成功地完成了我的项目,在给定的时间间隔内使用均匀分布不是更好吗


我的直觉是,这将使我的人际网络更加多样化。我认为,这个问题没有简单的解决办法。在正态分布的情况下,平均数周围的数字有更多的机会被数字生成器“选择”,均匀分布给所有数字几乎相等的机会。这一点很清楚,但对这个问题的答案是,机会均等意味着更好的结果吗?根据我的说法,这只是在实证实验中得出的结论。所以我建议你们用正态分布和均匀分布进行实验,并根据结果进行判断

关于多样性。我假设您创建了一些表示权重的随机向量。在变异阶段,你们执行随机数的加法。这个数字很可能是从接近平均值的区间开始的,所以在0的情况下,变异的概率很高,一些元素的变化很小。所以在向量上只有很小的改进,有时会出现一些大的改进。在均匀分布的情况下,变化会更加随机,从而导致个体的不同。问题是,这些人会更好吗?我不知道,但我给你另一种看法。我把遗传算法比作进化论。从这个角度来看,个人的累积性小进步和一些大变化的可能性很小是比较合适的。想一想情况,使用的是均匀分布,但由于变化较大,儿童的适应度较低,所以在创造新一代的阶段不会被选中。你会等很长时间,等待一个小小的改进,让你的网络工作得很好


也许还有一件事。你的实验可能表明均匀/正态分布更好。但这样的结果可能只适用于你目前的问题,一般来说不适用

因此通常被认为是一个关注特定编程/实现问题的网站。像你这样的概念性问题可能过于宽泛,你可能在ai.SE、datascience.SE或stats.SE中运气更好。根据我的经验,关于这些主题的直觉往往会产生误导,但你是对的,对于我的项目,我可能除了尝试自己之外别无选择