Machine learning 感知器算法/线性回归的基本直觉

Machine learning 感知器算法/线性回归的基本直觉,machine-learning,neural-network,xor,perceptron,Machine Learning,Neural Network,Xor,Perceptron,我正在研究神经网络,我遇到了下面的xorcise(那是个笑话!)问题 我问我的朋友我是否需要实现感知器算法来解决这个问题,他说“不,只是想一想”。嗯,我想了想,但我的小猴子大脑只能得出以下结论: 我朋友的话让我觉得这是一个技巧性的问题,到目前为止,我们讨论的唯一技巧是感知器无法执行异或函数 这就是这个问题的目的吗 如何解决这个问题 A simple Perzeptron with two inputs x₁, x₂, BIAS, and transfer function y = f(z)

我正在研究神经网络,我遇到了下面的xorcise(那是个笑话!)问题

我问我的朋友我是否需要实现感知器算法来解决这个问题,他说“不,只是想一想”。嗯,我想了想,但我的小猴子大脑只能得出以下结论:

我朋友的话让我觉得这是一个技巧性的问题,到目前为止,我们讨论的唯一技巧是感知器无法执行异或函数

这就是这个问题的目的吗

如何解决这个问题

A simple Perzeptron with two inputs x₁, x₂,  
BIAS, and transfer function y = f(z) = sgn(z), 
separates the two dimensional input space into 
two parts with help of a line g. 

Calculate for this Perzeptron the weights 
w1, w2, wb, so that the line separates 
the given 6 patterns (pX1, pX2; Py) into 
two classes:

1X = (0,  0;  -1), 
2X = (2, -2; +1), 
3X = (7 + ε, 3 - ε; +1), 
4X = (7  -  ε, 3 + ε; -1), 
5X = (0, -2 - ε; +1), 
6X = (0 - ε, -2; -1), 


Remark: 0 < ε << 1. 
一个简单的Perzeptron,有两个输入x₁, x₂,  
偏压,传递函数y=f(z)=sgn(z),
将二维输入空间分隔为
借助于线g的两部分。
计算此Perzeptron的重量
w1,w2,wb,使线分开
将给定的6个模式(pX1,pX2;Py)转换为
两类:
1X=(0,0;-1),
2X=(2,-2;+1),
3X=(7+ε,3-ε;+1),
4X=(7-ε,3+ε;-1),
5X=(0,-2-ε;+1),
6X=(0-ε-2;-1),

备注:0<ε如果你绘制这些点,你会看到所有的-1都在左上角,所有的+1都在右下角。您可以绘制一条与(0,-2)和(7,3)相交的线,该线给出以下表达式:

y = 5x/7 - 2
这足以跳过任何算法的运行

预测+1事件的直线方程如下所示:

y < 5x/7 - 2 
因为直线上的点是(35,23),我们感兴趣的点是(35100),所以它在直线上方。换句话说,pX2不小于23,预测返回-1

2) 图y'=100,所以

100 = 5x/7-2 
x = 142.8
线点=(142.8100),你的点(35100),我们的点在线点的左边,它仍然落在阴影区域之外

3) 您甚至可以绘制它的图形,并目视检查它是否在阴影区域中


关键是必须做一些计算来检查它是在里面还是在外面。这就是线性回归的要点。这应该是非常简单的机器计算,因为你只是在计算一件事。一旦你有了公式,预测应该很快。最困难的部分是确定直线的公式,我们已经通过绘制点并看到明显的解决方案来完成。如果您使用机器学习,在这种情况下需要更长的时间。

您所说的有意义-但是-->如何绘制它们
1X=(0,0;-1)
,所以这一点在图表的x轴和y轴上,对吗?本例中的
-1
是什么?偏见?还是体重?请原谅我的无知,我不太擅长神经网络。这个图是什么样子的?有,运行机器学习路由可能会得到不同的结果,但是手动查找一条经过(0,-2)和(7,3)的线非常简单,(2,-2)正好落在+1预测中,所以我们不需要用正则化来调整任何东西,+1表示预测是正的-1表示预测为负。所以,绘制所有(pX1,pX2)并用它们相关的Py标记它们。这只是简单的数学。方程y<5x/7-2是线下的一个区域。使用你需要的数学,我不能在这里添加图像,但重点是(35100)不在方程的区域,所以预测是错误的
100 = 5x/7-2 
x = 142.8