Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/python/310.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Python 岭回归中的参数α是什么?_Python_Scikit Learn_Regression - Fatal编程技术网

Python 岭回归中的参数α是什么?

Python 岭回归中的参数α是什么?,python,scikit-learn,regression,Python,Scikit Learn,Regression,有人能给我一个关于SKlearn中的参数Alpha的可理解的解释吗?它如何影响功能等。? 示例将很有帮助:)岭回归将目标函数最小化: |y-Xw | ^2 | u2+α*| w | ^2 | u2 该模型解决了一个回归模型,其中损失函数为线性最小二乘函数,正则化由l2范数给出。简单地说,alpha是岭回归应在多大程度上防止过度拟合的参数 假设您有三个参数W=[w1,w2,w3]。在过度拟合情况下,损失函数可以拟合具有W=[0.95,0.001,0.0004]的模型,这意味着它高度偏向于第一个参数

有人能给我一个关于SKlearn中的参数
Alpha
的可理解的解释吗?它如何影响功能等。?
示例将很有帮助:)

岭回归将目标函数最小化:
|y-Xw | ^2 | u2+α*| w | ^2 | u2

该模型解决了一个回归模型,其中损失函数为线性最小二乘函数,正则化由l2范数给出。简单地说,
alpha
是岭回归应在多大程度上防止过度拟合的参数


假设您有三个参数
W=[w1,w2,w3]
。在过度拟合情况下,损失函数可以拟合具有
W=[0.95,0.001,0.0004]
的模型,这意味着它高度偏向于第一个参数。但是,
alpha*| | | | | w | ^2| u 2
会在这些情况下增加损失函数,并尝试将所有参数保持在某种边界中,以防止过度拟合。例如,使用正则化器,
W
可以是
W=[0.5,0.2,0.33]
。当您增加
alpha
时,您正在推动岭回归对过度拟合更为稳健,但可能会导致更大的训练误差

我投票结束这个问题,因为它与编程无关@丹:你的问题不是关于编程,而是它在数学上是如何影响函数的?我真的不明白你的函数对象。@Dan那
| | w | | ^2_2
将本例中每个
[w1,w2,…]
的幂2相加,并将其添加到损失函数中。优化器尝试最小化损失函数。2的幂使大参数增加总损失函数的大损失。@Dan例如
| w | ^2_2
第一个例子是
sqrt(0.95*0.95+0.001*0.001+0.0004*0.0004)
第二个例子等于
sqrt(0.5*0.5+0.2*0.2+0.33*0.33)