Machine learning 回归神经网络模型中的特征选择/提取

Machine learning 回归神经网络模型中的特征选择/提取,machine-learning,deep-learning,regression,feature-extraction,feature-selection,Machine Learning,Deep Learning,Regression,Feature Extraction,Feature Selection,我正在尝试用15个输入参数拟合回归的ANN模型。 其中一些参数相互关联,关系不是线性的。也就是说,其中一个输入参数可以表示为其他参数的非线性函数。但我不知道这些关系,因为我缺乏领域知识。有没有办法找到这些输入参数之间的关系 我试着用熊猫相关矩阵来寻找这些关系,但没有得出任何结论,因为它讨论了两个参数之间唯一的线性相关性 提前感谢。找到输入特征之间非线性关系的一种方法是采用类似于计算方差膨胀系数(VIF)的方法,该方法用于找出输入特征之间的线性关系。我们需要的修改是,不必运行普通最小二乘法(OLS

我正在尝试用15个输入参数拟合回归的ANN模型。 其中一些参数相互关联,关系不是线性的。也就是说,其中一个输入参数可以表示为其他参数的非线性函数。但我不知道这些关系,因为我缺乏领域知识。有没有办法找到这些输入参数之间的关系

我试着用熊猫相关矩阵来寻找这些关系,但没有得出任何结论,因为它讨论了两个参数之间唯一的线性相关性


提前感谢。

找到输入特征之间非线性关系的一种方法是采用类似于计算方差膨胀系数(VIF)的方法,该方法用于找出输入特征之间的线性关系。我们需要的修改是,不必运行普通最小二乘法(OLS)回归来找出输入特征之间的线性关系,您可以使用神经网络代替OLS来捕获特征之间的非线性关系

因此,您的f将是在常规设置下计算VIF的OLS,在我们的例子中,它将是神经网络,被证明在捕获非线性关系方面是有效的

为了找出这种情况下的波动率因子,我们可以用神经网络的精度来代替它

最后,哪一个变量的VIF更高,你可以得出结论,它们与其他特征高度相关


希望这有帮助

找到输入特征之间非线性关系的一种方法是采用类似于计算方差膨胀系数(VIF)的方法,该方法用于找出输入特征之间的线性关系。我们需要的修改是,不必运行普通最小二乘法(OLS)回归来找出输入特征之间的线性关系,您可以使用神经网络代替OLS来捕获特征之间的非线性关系

因此,您的f将是在常规设置下计算VIF的OLS,在我们的例子中,它将是神经网络,被证明在捕获非线性关系方面是有效的

为了找出这种情况下的波动率因子,我们可以用神经网络的精度来代替它

最后,哪一个变量的VIF更高,你可以得出结论,它们与其他特征高度相关


希望这有帮助

您好,较高的VIF值表明该变量与其他变量高度相关,但是否有办法找到它与哪些其他变量最相关?一种可能的方法是成对运行流程,但计算成本可能会很高!如果你认为这个答案帮助你解决了问题,我恳请你接受这个答案,因为如果其他人也面临类似的问题,它将帮助他们找到正确的答案。提前谢谢!有关更多详细信息,请参阅Hi,较高的VIF值表明变量与其他变量高度相关,但是否有办法找到与哪些其他变量最相关的变量?一种可能的方法是成对运行流程,但计算成本可能会很高!如果你认为这个答案帮助你解决了问题,我恳请你接受这个答案,因为如果其他人也面临类似的问题,它将帮助他们找到正确的答案。提前谢谢!有关更多详细信息,请参阅