Matlab 前馈神经网络的正则化 我刚刚在Coursera通过了Andrew Ng的一些网上公开课。在关于神经网络的讲座结束时,他解释了反胃,但恐怕我遗漏了一些东西。通过调节,成本函数的值计算如下:

Matlab 前馈神经网络的正则化 我刚刚在Coursera通过了Andrew Ng的一些网上公开课。在关于神经网络的讲座结束时,他解释了反胃,但恐怕我遗漏了一些东西。通过调节,成本函数的值计算如下:,matlab,neural-network,Matlab,Neural Network,J(θ)=-1/m*jValMain+lambda/(2*m)*JValReg jValMain是一组大于y的和,以及NN的输出。第二个组成部分jValReg是应用反流,看起来像这样: jValReg=lambda/(2*m)*和(和)(和(θ(j)(i)(k)^2)) Theta是一组权重,m是数据库中所有元素/案例的数量,然后是lambda。什么是lambda?它是标量、向量还是矩阵?我们如何通过lambda实施反腐?lambda是用来调节来自第lth层的特定第jth和第ith个重量,还是用

J(θ)=-1/m*jValMain+lambda/(2*m)*JValReg

jValMain
是一组大于
y
的和,以及NN的输出。第二个组成部分
jValReg
是应用反流,看起来像这样:

jValReg=lambda/(2*m)*和(和)(和(θ(j)(i)(k)^2))

Theta
是一组权重,
m
是数据库中所有元素/案例的数量,然后是
lambda
。什么是lambda?它是标量、向量还是矩阵?我们如何通过lambda实施反腐?lambda是用来调节来自第lth层的特定第jth和第ith个重量,还是用来调节一个数字的所有重量。不知怎的,这让我很困惑。如果有人熟悉这个概念,我将不胜感激。
干杯

lambda
是估计中的正则化参数。可以将其视为控制估计偏差的一种手段。它是一个标量,通常用于防止数据的过度拟合。这里有几行摘自课程作业的笔记

。。。lambda的值可以显著影响训练集和交叉验证集上正则化多项式回归的结果。特别是,没有正则化的模型(lambda=0)很好地拟合了训练集,但不能推广。相反,具有过多正则化(lambda=100)的模型不适合训练集和测试集。一个好的lambda选择(例如,lambda=1)可以很好地拟合数据


lambda
是估计中的正则化参数。可以将其视为控制估计偏差的一种手段。它是一个标量,通常用于防止数据的过度拟合。这里有几行摘自课程作业的笔记

。。。lambda的值可以显著影响训练集和交叉验证集上正则化多项式回归的结果。特别是,没有正则化的模型(lambda=0)很好地拟合了训练集,但不能推广。相反,具有过多正则化(lambda=100)的模型不适合训练集和测试集。一个好的lambda选择(例如,lambda=1)可以很好地拟合数据