Artificial intelligence 是否存在输出为概率的向后误差传播版本?

Artificial intelligence 是否存在输出为概率的向后误差传播版本?,artificial-intelligence,neural-network,Artificial Intelligence,Neural Network,我想创建一个前馈神经网络,其中训练数据的输出是布尔值,0或1 然而,在使用中,我希望输出是该输入产生0或1的预期概率 考虑到最常见的backprop形式采用了sigmoid激活函数,这似乎不太可能导致实际概率作为输出(sigmoid曲线看起来并不是一个“概率”函数-对不起,我知道这是hand-wavey) 也许我错了。使用sigmoid激活函数并使用backprob训练的前馈神经网络的输出是否可以安全地被视为获得1而不是0的实际概率?是的,如果使用标准sigmoid激活函数,这将按照您希望的方式

我想创建一个前馈神经网络,其中训练数据的输出是布尔值,0或1

然而,在使用中,我希望输出是该输入产生0或1的预期概率

考虑到最常见的backprop形式采用了sigmoid激活函数,这似乎不太可能导致实际概率作为输出(sigmoid曲线看起来并不是一个“概率”函数-对不起,我知道这是hand-wavey)


也许我错了。使用sigmoid激活函数并使用backprob训练的前馈神经网络的输出是否可以安全地被视为获得1而不是0的实际概率?

是的,如果使用标准sigmoid激活函数,这将按照您希望的方式工作


证明这一点的数学有点复杂,但实际上可以归结为这样一个事实:您正在训练sigmoid函数以生成输出训练集的平均值(这是在正常backprop中使用平方误差函数的结果)。由于两个可能值分别为0和1,因此平均值正好等于得到1的概率。

我不太明白你的意思。“前馈”指的是许多类型的神经网络的大量集合。感知机是最简单的,它们是确定性的,而不是随机的。如果我没有弄错的话,反向误差传播用于多层前馈网络。是的,我在寻找一个能给我一个确定性概率的东西,给定一个输入,输出为1。因为我们不可能绝对确定输出为1(除非我们以前见过),所以输出总是小于1。