Machine learning 如何确定具有非线性训练集的神经网络的假设函数?

Machine learning 如何确定具有非线性训练集的神经网络的假设函数?,machine-learning,artificial-intelligence,neural-network,scientific-computing,Machine Learning,Artificial Intelligence,Neural Network,Scientific Computing,我们有4个相互非线性相关的数值输入。我们的目标是利用反向传播模型预测产量。我们正在想象的场景如下:, 根据我们的知识(我们还没有完全理解),我们正在考虑计算任何神经元的输出(Y)的方程是 Y = w1 * X1 + w2 * X2 + w3 * X3 + w4 * X4 ? 其中, Y是输出 X是输入(X1、X2、X3、X4) w是重量 因此,在输出层,如果输出(Y)与预期的不同,我们将使用误差校正来修改权重 对于非线性数据集,是否需要有特定的输出函数(假设函数)?或

我们有4个相互非线性相关的数值输入。我们的目标是利用反向传播模型预测产量。我们正在想象的场景如下:,

根据我们的知识(我们还没有完全理解),我们正在考虑计算任何神经元的输出(Y)的方程是

        Y  =  w1 * X1  + w2 * X2 + w3 * X3 + w4  * X4 ?
其中,
Y是输出 X是输入(X1、X2、X3、X4) w是重量

因此,在输出层,如果输出(Y)与预期的不同,我们将使用误差校正来修改权重


对于非线性数据集,是否需要有特定的输出函数(假设函数)?或者可以使用上面的函数?

这是一个很好的数学思考方式,但我不同意上面列出的等式

对于隐藏神经元1(HN1),其输入(inputHN1)为
w11*X1+w21*X2+w31*X3+w41*X4
;输出是
f(inputHN1)
。请注意,
f()
可以是一个非线性函数(也可以是线性函数)

对于HN2,我们有
f(inputHN2)

Y=beta1*f(inputHN1)+beta2*f(inputHN2)

MLP的权重(w和β)将通过反向传播进行训练

您将看到,如果
f()
是非线性的,那么对非线性函数进行建模是完美的

当然,如果
f()
是线性的,它只能很好地逼近线性函数


好吧,假设总是有帮助的,如果你对你试图建模的东西有先验知识的话。例如,不是一阶,而是二阶,如X1X2、X1^2等。

是的,你的方程是正确的,我应该对所有这些神经元进行编号,因此这意味着在反向传播中,下一个神经元的输出总是前一个神经元的权重*节点(神经元值)的总和?谢谢你的回复,罗宾是的,你说得对。这就是为什么如上所述的MLP训练包括前馈和反向传播。