Python &引用;reg_alpha";XGBoost回归器中的参数。使用高值是否不好?

Python &引用;reg_alpha";XGBoost回归器中的参数。使用高值是否不好?,python,xgboost,Python,Xgboost,我正在用网格搜索进行超参数调整,我意识到我的拟合过度了。。。我尝试了很多方法来减少它,更改“gamma”、“subsample”、“max_depth”参数来减少它,但我仍然过度拟合 然后,我将“reg_alpha”参数值增加到>30…我的模型大大减少了过度拟合。我知道这个参数指的是权重上的L1正则化项,也许这就是解决我问题的原因 我只是想知道像这样使用reg\u alpha的高值是否有问题 我将非常感谢您的帮助:Dreg_alpha将惩罚增加成本功能的功能。这意味着它可以找到不增加准确性的功能

我正在用网格搜索进行超参数调整,我意识到我的拟合过度了。。。我尝试了很多方法来减少它,更改
“gamma”、“subsample”、“max_depth”参数来减少它,但我仍然过度拟合

然后,我将“
reg_alpha
”参数值增加到>30…我的模型大大减少了过度拟合。我知道这个参数指的是权重上的
L1正则化
项,也许这就是解决我问题的原因

我只是想知道像这样使用
reg\u alpha
的高值是否有问题


我将非常感谢您的帮助:D

reg_alpha将惩罚增加成本功能的功能。这意味着它可以找到不增加准确性的功能。但这使得预测线更加平滑

在一些问题上,我还增加了reg_alpha>30,因为它减少了过度拟合和测试错误。 但若这是一个回归问题,它的预测将接近于测试集上的平均值,它可能不会捕捉到好的异常

所以我可以说,只要你的测试准确度没有开始下降,你就可以提高它

最后,在增加reg_alpha时,保持最大深度较小可能是一个很好的做法