Machine learning 在Logistic回归中,sigmoid函数真的重要吗?

Machine learning 在Logistic回归中,sigmoid函数真的重要吗?,machine-learning,statistics,logistic-regression,Machine Learning,Statistics,Logistic Regression,我实现了一个二元逻辑回归分类器。为了玩游戏,我用tanh替换了sigmoid函数(1/1+exp(-z))。结果完全相同,分类阈值为0.5,即使tanh在{1,1}范围内,而sigmoid在{0,1}范围内 我们使用sigmoid函数真的重要吗?或者像tanh这样的可微非线性函数能起作用吗 谢谢。函数的范围应该是{0,1},因为它代表了结果的概率。您是否在训练中也更改了函数,或者您只是使用了相同的训练方法,然后将乙状结肠更改为tanh 我认为很可能发生的情况如下。看看sigmoid和tanh的图

我实现了一个二元逻辑回归分类器。为了玩游戏,我用tanh替换了sigmoid函数(1/1+exp(-z))。结果完全相同,分类阈值为0.5,即使tanh在{1,1}范围内,而sigmoid在{0,1}范围内

我们使用sigmoid函数真的重要吗?或者像tanh这样的可微非线性函数能起作用吗


谢谢。

函数的范围应该是{0,1},因为它代表了结果的概率。

您是否在训练中也更改了函数,或者您只是使用了相同的训练方法,然后将乙状结肠更改为tanh

我认为很可能发生的情况如下。看看sigmoid和tanh的图表:

乙状结肠: 谭:

我们可以看到,在tanh情况下,y=0.5的值约为x=0.5。在乙状结肠中,x=0.5得到y=0.62。因此,我认为现在可能发生的情况是,您的数据不包含任何会落在该范围内的点,因此您会得到完全相同的结果。尝试打印数据的sigmoid值,查看是否存在介于0.5和0.62之间的值


使用sigmoid函数的原因是它是从概率和最大似然中推导出来的。虽然其他函数的工作原理可能非常相似,但它们缺乏这种概率理论背景。有关详细信息,请参见示例或

谢谢您的精彩解释!正如您所说,我没有任何值落在该范围内,因此差异不明显。lunc.cas链接现在给出404。