Artificial intelligence 在人工神经网络中,如何确定层与层之间连接的神经元?

Artificial intelligence 在人工神经网络中,如何确定层与层之间连接的神经元?,artificial-intelligence,neural-network,Artificial Intelligence,Neural Network,假设我的第一个输入层有10个输入节点/神经元。假设我的隐藏层也有10个神经元。我的第三层也是最后一层是一个输出神经元 如何连接图层?是否有一种技术可以确定最好的方法来实现这一点,或者你只是将每个输入神经元连接到每个隐藏层神经元,在两层之间总共有100条边 这可能是一个非常基本的问题,但我没有看到太多具体的例子。我发现的例子要么连接了所有的神经元,要么连接是随机的。我的理解是相邻层中的所有节点都应该连接起来。因此,所有10个输入节点都应连接到隐藏层中的所有10个节点(100个连接)。然后,隐藏层中

假设我的第一个输入层有10个输入节点/神经元。假设我的隐藏层也有10个神经元。我的第三层也是最后一层是一个输出神经元

如何连接图层?是否有一种技术可以确定最好的方法来实现这一点,或者你只是将每个输入神经元连接到每个隐藏层神经元,在两层之间总共有100条边


这可能是一个非常基本的问题,但我没有看到太多具体的例子。我发现的例子要么连接了所有的神经元,要么连接是随机的。

我的理解是相邻层中的所有节点都应该连接起来。因此,所有10个输入节点都应连接到隐藏层中的所有10个节点(100个连接)。然后,隐藏层中的所有10个节点都应连接到输出节点(10个连接)


在你的情况下,我相信连接的总数应该是110。

如果有什么区别的话,这是基于直觉和经验结果。我见过人们使用递归神经网络

使用前馈神经网络,将
n层的所有神经元连接到
n+1层的所有神经元是有意义的

下面是我最近使用的一个示例(演示大量的边):


我认为,如果你切断了输入节点和隐藏层之间的一些链接,你就人为地影响了训练阶段。基本上,您对其余链接给予了更大的重视

即使你将一个神经元与下一层中的一小部分神经元连接起来,这就像将它们全部连接起来一样,但非连接神经元的通信权重为0。训练算法实际上可能达到这种情况

真正重要的是神经网络的结构和分配给神经元每个输入/输出环节的权重


因此,将输入层的10个输入节点中的每一个连接到隐藏层中的所有10个节点,让训练算法完成它的工作。如果你有足够的训练和测试数据,它将产生预期的结果。

你是否也通过测试和直觉决定了使用多少层以及每个隐藏层中有多少神经元?如果你得到了训练集,并且必须反向传播以调整错误,这是一个前馈神经网络吗?我已经测试了几种安排,当前的设置最适合我的用例。前馈网络使用反向传播算法(以及梯度下降法或牛顿-拉斐逊法)来调整权重。在图中,有一些节点未连接到输入层(既不直接也不间接),但(直接或间接)连接到输出层。这有意义吗?怎么用?(示例:第一个隐藏层,上部节点)这些称为偏移节点。它们的输入值始终固定在一个恒定值,但连接权重按常规进行训练。一些文献似乎表明这是一个好主意,另一些文献似乎不同意。本质上,它允许一层或神经元“突然”变得更具支配性。