Neural network 具有线性激活函数的多层感知器
来自维基百科： 如果多层感知器在所有神经元中都有一个线性激活函数，即将加权输入映射到每个神经元的输出的线性函数，那么很容易用线性代数证明，任何数量的层都可以简化为标准的两层输入输出模型（参见感知器） 我已经看到，我理解的是，这是因为线性函数的组合可以用线性函数表示，这是唯一的原因，对吗 那个么还原过程是什么样的呢？i、 e.如果我们有3x5x2 MLP，SLP会是什么样子？输入层的大小是否基于用于表示线性函数的参数数量，如上面链接的答案所示 f（x）=a x+b g（z）=cz+d g（f（x））=c（ax+b）+d=acx+cb+d=（ac）x+（cb+d） 那么它将是4个输入？（a、b、c、d，因为它是两个具有不同参数的线性函数的组合）Neural network 具有线性激活函数的多层感知器,neural-network,perceptron,Neural Network,Perceptron,来自维基百科： 如果多层感知器在所有神经元中都有一个线性激活函数，即将加权输入映射到每个神经元的输出的线性函数，那么很容易用线性代数证明，任何数量的层都可以简化为标准的两层输入输出模型（参见感知器） 我已经看到，我理解的是，这是因为线性函数的组合可以用线性函数表示，这是唯一的原因，对吗 那个么还原过程是什么样的呢？i、 e.如果我们有3x5x2 MLP，SLP会是什么样子？输入层的大小是否基于用于表示线性函数的参数数量，如上面链接的答案所示 f（x）=a x+b g（z）=cz+d g（f（x）
提前谢谢 大小将为3X2，隐藏层将消失，隐藏层线性函数的所有权重将折叠为输入层的权重。在本例中，有3次5（输入到隐藏），即15个函数加上5次2（隐藏到输出），即10个函数。总共25个不同的线性函数。它们是不同的，因为每种情况下的权重不同。所以你所描述的f（x）和g（z）不是正确的描述 隐层的折叠可以通过简单地取一个输入神经元和一个输出神经元，并取通过隐层连接这两个神经元的节点上所有中间函数的线性组合来完成。最后，您将得到6个描述3X2映射的独特函数 为了您自己的理解，请尝试使用简单的2X2X1 MLP在纸上进行此操作，每个节点的权重不同