Artificial intelligence 用乙状结肠神经元代替感知器网络

Artificial intelligence 用乙状结肠神经元代替感知器网络,artificial-intelligence,neural-network,perceptron,Artificial Intelligence,Neural Network,Perceptron,在我们介绍乙状结肠神经元(具有乙状结肠激活功能的神经元)之前,本网站给出了一点数学上的阐述,即关于感知器。 它由感知器开始,然后进入乙状结肠神经元。一切都很好,但我似乎无法证明第二个问题“乙状结肠神经元模拟感知机,第二部分”。我很难相信你可以用一个偏倚和权重不变的乙状结肠神经元网络来代替一个感知器网络(我们可以很容易地构造一个反例:第三层的权重为17,-6,-3,第四层的最后一个神经元,其中b=-3和w={17,-6}在w.x+b>=0,代表{1,0,0}(包括偏差x_0)感知器网络给出0,而

在我们介绍乙状结肠神经元(具有乙状结肠激活功能的神经元)之前,本网站给出了一点数学上的阐述,即关于感知器。

它由感知器开始,然后进入乙状结肠神经元。一切都很好,但我似乎无法证明第二个问题“乙状结肠神经元模拟感知机,第二部分”。我很难相信你可以用一个偏倚和权重不变的乙状结肠神经元网络来代替一个感知器网络(我们可以很容易地构造一个反例:第三层的权重为17,-6,-3,第四层的最后一个神经元,其中b=-3和w={17,-6}在w.x+b>=0,代表{1,0,0}(包括偏差x_0)感知器网络给出0,而sigmoid网络可以给出1)

有谁能帮我告诉我我错过了什么,或者我错在哪里?
谢谢。

不行,权重不变。但S形是二进制阈值单位的连续近似值,应该是类似的。页面上说:

现在,用乙状结肠神经元替换网络中的所有感知器,并将权重和偏差乘以一个正常数c>0。将极限值表示为c→∞ 这种乙状结肠神经元网络的行为与感知器网络完全相同


这是真的。当你将所有权重乘以大值时,sigmoid单位和阈值单位之间的微小差异会越来越小。输入到sigmoid的非常大的输入总是产生0或1。

感知机的输出只能是1或0,而当wx+c=0时,输出是1/2,因此当其中一个感知机的wx+c=0时,它将失败ns


我也是这么想的。谢谢你的回复。