Machine learning XGBoost功能更重要,精确度更低

Machine learning XGBoost功能更重要,精确度更低,machine-learning,xgboost,feature-selection,feature-engineering,Machine Learning,Xgboost,Feature Selection,Feature Engineering,我的型号f1、f2、f3、f4、f5和f6有六个功能。 特征重要性得分是有序的 f1>f2>f3>f4>f5>f6 但具有特征f1、f4和f5的模型的rmse小于具有特征f1、f2、f3、f4、f5和f6的模型或具有特征f1、f2、f3的模型的rmse。有什么可能的原因吗?没有数据很难猜测。 然而,这通常是由相关特征造成的。 因此,如果将f2==f1添加到已包含f1的模型中,则不会提供任何值。但是,添加一个不相关的功能,例如f4可以增加很多,即使如此f2>f1您

我的型号f1、f2、f3、f4、f5和f6有六个功能。 特征重要性得分是有序的

f1>f2>f3>f4>f5>f6 

但具有特征
f1、f4和f5
的模型的rmse小于具有特征
f1、f2、f3、f4、f5和f6
的模型或具有特征
f1、f2、f3
的模型的rmse。有什么可能的原因吗?

没有数据很难猜测。 然而,这通常是由相关特征造成的。
因此,如果将
f2==f1
添加到已包含
f1
的模型中,则不会提供任何值。但是,添加一个不相关的功能,例如
f4
可以增加很多,即使如此
f2>f1

您的问题在准确性和准确性之间切换时,比必要时更难理解rmse@CAFEBABE对不起,那是个打字错误,我不知道我怎么会错过itOkay,所以这不是添加所有功能增加rmse的任何规则或理由,这取决于数据。