Neural network 从神经网络和深度学习理解第1章示例2

Neural network 从神经网络和深度学习理解第1章示例2,neural-network,Neural Network,我正在进行第二个练习,但不理解(模拟感知机的乙状结肠神经元,第二部分) 在极限中显示为c→∞ 这个乙状结肠网络的行为 神经元与感知器网络完全相同。怎么可能 当w⋅其中一个感知器的x+b=0 我能证明c→∞ 行为与感知器网络相同。但我不确定我对w的原因是否正确⋅x+b=0将失败 用z=0代替sigmoid函数(1/(1+e^-z),得到1/(1+e^-0),分解为1/(1+1)=1/2 如果定义1/2会触发神经元中的1,那么我不明白为什么w⋅x+b=0将失败。您或多或少已经回答了您的问题。 感知器

我正在进行第二个练习,但不理解(模拟感知机的乙状结肠神经元,第二部分)

在极限中显示为c→∞ 这个乙状结肠网络的行为 神经元与感知器网络完全相同。怎么可能 当w⋅其中一个感知器的x+b=0

我能证明c→∞ 行为与感知器网络相同。但我不确定我对w的原因是否正确⋅x+b=0将失败

用z=0代替sigmoid函数(1/(1+e^-z),得到1/(1+e^-0),分解为1/(1+1)=1/2


如果定义1/2会触发神经元中的1,那么我不明白为什么w⋅x+b=0将失败。

您或多或少已经回答了您的问题。 感知器的传递函数是阶跃函数H(z),对于z 图像来源:

如上图所示,对于小于-5和大于5的值,sigmoid函数分别输出接近0或1的值。此处5仅用于表示,但实际上这意味着对于z的极值,sigmoid函数输出0或1


因此,在你的例子中,当你用正数c乘以方程(w.x+b),其中c→∞ z=c(w.x+b)~-∞ (对于w.x+b<0)和z=c(w.x+b)~∞ (对于w.x+b>0)。因此,在这两种情况下,您可以期望值接近0或1。但是当w.x+b=0、z=0和S形函数输出0.5或1/2时,这不是感知器的特征,这在您的问题中被描述为“无法模仿感知器的行为”。

嘿,托马斯!谢谢您回来!但我不明白“当w⋅其中一个感知器的x+b=0?“我知道sigmoid函数将输出1/2,但这是如何失败的?它不能“与感知器网络完全相同”。这意味着,如果传递函数的参数对于至少一个单元为零,则具有sigmoid单元的网络的输出将不同。