Neural network 人工神经网络:选择初始神经元

Neural network 人工神经网络:选择初始神经元,neural-network,Neural Network,如何选择初始结构(神经元及其之间的连接)?我的书只说,在训练网络之前,我们在开始时就给连接随机权重 我想我们会在训练过程中添加神经元,如下所示: 从一个完全空的网络开始 我在培训期间生成的第一个值将不存在 添加一个神经元以对应此值,并带有随机权重 你想要的是一个自组织的安。通常,连接的组织方式是人为的,开发人员认为该模型有足够的能力执行必要的计算。当然,您可以从随机选择具有随机连接的节点开始,但是这种网络的演化可能比标准的两层或三层网络需要更长的时间 所以,是的,你是对的,在做自组织网络时,你会

如何选择初始结构(神经元及其之间的连接)?我的书只说,在训练网络之前,我们在开始时就给连接随机权重

我想我们会在训练过程中添加神经元,如下所示:

  • 从一个完全空的网络开始
  • 我在培训期间生成的第一个值将不存在
  • 添加一个神经元以对应此值,并带有随机权重

  • 你想要的是一个自组织的安。通常,连接的组织方式是人为的,开发人员认为该模型有足够的能力执行必要的计算。当然,您可以从随机选择具有随机连接的节点开始,但是这种网络的演化可能比标准的两层或三层网络需要更长的时间


    所以,是的,你是对的,在做自组织网络时,你会使用类似的方法。跟踪两组遗传算法,一组用于结构,另一组用于权重(或以某种迂回的方式将两者结合起来),并根据您的意愿进行进化。

    我认为问题不在于自组织或遗传进化的人工神经网络。这听起来更像是一个最常见的人工神经网络:感知器(单层或多层),在这种情况下,网络的结构:层的数量和层的大小,必须在开始时手动选择。初始化权重的一个简单的初始经验法则是简单地选取-1.0和1.0之间的均匀随机值