Machine learning 为什么逻辑回归称为回归?

Machine learning 为什么逻辑回归称为回归?,machine-learning,classification,regression,logistic-regression,Machine Learning,Classification,Regression,Logistic Regression,根据我的理解,线性回归预测的结果可以是连续值,而逻辑回归预测的结果是离散的。在我看来,逻辑回归类似于分类问题。那么,为什么称之为回归呢 还有一个相关的问题:线性回归和逻辑回归之间有着严格的联系 使用线性回归,您可以查找ki参数: h=k0+∑ki˙席= KT和DOT;X 逻辑回归的目标是一样的,但方程是: h=g(Kt˙X) 其中g是: g(w)=1/(1+e-w) 因此: h=1/(1+e-Kt˙X) 您需要将K与您的数据相匹配 假设二元分类问题,输出h是示例x在分类任

根据我的理解,线性回归预测的结果可以是连续值,而逻辑回归预测的结果是离散的。在我看来,逻辑回归类似于分类问题。那么,为什么称之为回归呢


还有一个相关的问题:

线性回归和逻辑回归之间有着严格的联系

使用线性回归,您可以查找ki参数:

h=k0+∑ki˙席= KT和DOT;X

逻辑回归的目标是一样的,但方程是:

h=g(Kt˙X)

其中
g
是:

g(w)=1/(1+e-w)

因此:

h=1/(1+e-Kt˙X)

您需要将K与您的数据相匹配

假设二元分类问题,输出
h
是示例
x
在分类任务中为正匹配的估计概率:

p(Y=1)=1/(1+e-Kt˙X)

当概率大于0.5时,我们可以预测“匹配”

在以下情况下,概率大于0.5:

g(w)>0.5

当:

w=Kt˙X≥ 0

超平面:

Kt˙X=0

是决策的边界

总之:

  • logistic回归是一种广义线性模型,使用与线性回归相同的基本公式,但它用于分类结果的概率
这是一个非常简略的版本。你可以在(Andrew Ng的机器学习第三周)中找到一个简单的解释


您还可以查看课程中的一些注释。

逻辑回归属于监督学习的范畴。它通过使用逻辑/S型函数估计概率来测量分类因变量与一个或多个自变量之间的关系。 逻辑回归有点类似于线性回归,或者我们可以将其视为广义线性模型。 在线性回归中,我们根据输入变量的加权和预测输出y

y=c+x1*w1+x2*w2+x3*w3+..…+xn*wn

线性回归的主要目的是估计c、w1、w2、…、wn的值,最小化成本函数并预测y

逻辑回归也做同样的事情,但有一个附加。它将结果通过一个称为logistic/sigmoid函数的特殊函数来生成输出y

y=逻辑(c+x1*w1+x2*w2+x3*w3+xn*wn)


y=1/1+e[-(c+x1*w1+x2*w2+x3*w3+..+xn*wn)]

如前所述,逻辑回归是一种广义线性模型,使用与线性回归相同的基本公式,但它是对分类结果概率的回归

正如你们所看到的,我们得到了线性回归和逻辑回归的相似类型的方程。 不同之处在于,线性回归给出了给定x的连续值y,而逻辑回归也给出了给定x的连续值p(y=1),随后根据阈值(0.5)转换为y=0或y=1


逻辑回归
实际上是一种分类策略。所以它的名字可能会让人困惑。为什么它被称为逻辑“回归”?好问题-可能是因为从统计学的角度来看,它只是一个广义线性模型,预测
0
1
之间的连续值,可以解释为
概率
。我投票结束这个问题,因为它与编程无关。这类问题没有答案。如果这个问题是离题的,那么不是也离题了吗?这个站点上有很多关于python库执行逻辑回归的问题,因为很难将实现问题与像这样的理论问题分开。