Statistics 不显著回归分析

Statistics 不显著回归分析,statistics,regression,prediction,Statistics,Regression,Prediction,我试图用一些解释变量来预测一个变量,每个变量都没有视觉上可检测的关系,也就是说,每个回归变量和预测变量之间的散点图是完全平坦的云 我采取了两种方法: 1) 运行个体回归,结果根本不存在显著关系 2) 一旦我处理了多变量回归的多个组合,我就得到了一些组合的显著关系(虽然这些组合并不稳健,也就是说,一个变量在一个设置中是显著的,而在另一个设置中失去了显著性) 我想知道,如果基于1),也就是说,在个体基础上,似乎没有任何关系,我可以得出结论,一个多变量的方法注定也会失败?答案是肯定的不,它不一定会失败

我试图用一些解释变量来预测一个变量,每个变量都没有视觉上可检测的关系,也就是说,每个回归变量和预测变量之间的散点图是完全平坦的云

我采取了两种方法:

1) 运行个体回归,结果根本不存在显著关系

2) 一旦我处理了多变量回归的多个组合,我就得到了一些组合的显著关系(虽然这些组合并不稳健,也就是说,一个变量在一个设置中是显著的,而在另一个设置中失去了显著性)


我想知道,如果基于1),也就是说,在个体基础上,似乎没有任何关系,我可以得出结论,一个多变量的方法注定也会失败?

答案是肯定的,它不一定会失败。事实上,你已经观察到了#2中的情况,在多重预测设置中,你会得到显著的预测值

1个预测值和1个结果之间的回归等于两个变量之间的协方差或相关性。这是您在散点图中观察到的关系

有多个预测因子的回归(多元回归)有着完全不同的解释。假设您有这样一个模型:
Y=b0+b1X1+b2X2

b1
被解释为
X1
Y
保持
X2
常数之间的关系。也就是说,您正在控制此模型中
X2
的效果。这是多元回归的一个非常重要的特征

要查看此信息,请运行以下模型:

  • Y=b0+b1X1
  • Y=b0+b1X1+b2X2
  • 您将看到,在这两种情况下,
    b1
    的值是不同的。
    b1
    值之间的差异程度将取决于
    X1
    X2

    仅仅因为两个变量之间的直接相关性不显著,并不意味着一旦控制了其他预测因素的影响,这种关系将保持不显著

    您在#2中的健壮性示例突出了这一点。为什么预测因子在某些模型中是显著的,而在使用其他预测因子子集时是不显著的?这正是因为你在控制各种模型中不同变量的影响


    您选择控制哪些其他变量,以及最终选择使用哪种特定的回归模型,取决于您的目标。

    通常我会说您没有足够的信息来回答这个问题,但是(明智地)拥有额外的信息我个人认为,检查过的散点图可能足以回答您的问题:“是的,它将失败”。虽然不能确定是否能找到小的相关性,但在我看来,你在这里做了功课,你的怀疑很可能是正确的。谢谢你,詹姆斯,我明白你的意思了。我也是这么想的。多好的解释啊。非常感谢你,西蒙,一切都很有道理!!