R中套索、弹性网和岭回归的不同惩罚函数

R中套索、弹性网和岭回归的不同惩罚函数,r,regularized,robust,R,Regularized,Robust,当在R中使用套索、脊或弹性网等正则化时,它们是一个允许我将惩罚函数改为Huber或绝对值,而不是二次L2范数的包吗 我认为到目前为止,还没有一个程序包允许您指定自己的处罚公式。有一些特殊的软件包,如hqreg或ncvreg,为您提供了一些其他选择。第一个允许Huber。第二个允许最小最大凹惩罚MCP和平滑剪裁绝对偏差SCAD 注意,当你把惩罚从L1改为L2时,范数是从套索改为岭,它们的线性组合就是所谓的弹性网。因此,例如,将正则化路径更改为Huber或Scad不会产生套索或脊线。你也可以将L2范

当在R中使用套索、脊或弹性网等正则化时,它们是一个允许我将惩罚函数改为Huber或绝对值,而不是二次L2范数的包吗

我认为到目前为止,还没有一个程序包允许您指定自己的处罚公式。有一些特殊的软件包,如hqreg或ncvreg,为您提供了一些其他选择。第一个允许Huber。第二个允许最小最大凹惩罚MCP和平滑剪裁绝对偏差SCAD

注意,当你把惩罚从L1改为L2时,范数是从套索改为岭,它们的线性组合就是所谓的弹性网。因此,例如,将正则化路径更改为Huber或Scad不会产生套索或脊线。你也可以将L2范数与SCAD或MCP结合起来,加入一个“弹性项”,就像弹性网一样。我不想改变正则化,只想改变残差的范数。我希望这样的东西成为我的惩罚:最小化{$| Ax-b{124; u1+| x{124;{1}},或者最小化{$| Ax-b{124; u1+| x{124; u2}},或者插入Huber代替1范数。刚刚意识到latex在这个板上不起作用,呃,最小化{| | | Ax-b | | | | u 2}给出LS。最小化{$| Ax-b | | | | u2-| | b | | | | u2}生成岭。处罚期限为| | b | | u 2。所以改变残差的二次损失意味着改变{| | Ax-b | | | u2}。这就是你想要的吗?这就是hqreg的情况,其中整个损失函数更改为Huber损失函数,您仍然可以向该损失函数添加惩罚项,这将使其正则化。如果你想要一个不同的损失函数,没有一个包适合所有的解决方案。我查过了!Hqreq有Huber,我可以使用参数alpha在| | x | | | u 1和| | x | | | u 2之间切换!谢谢