Neural network 神经网络误差求导Sigmoid

Neural network 神经网络误差求导Sigmoid,neural-network,backpropagation,sigmoid,Neural Network,Backpropagation,Sigmoid,在我关于人工智能的书中,错误函数是(目标输出)^2 d=δ W=重量 O=输出 T=目标 dE/Wa=dE/dOk*dOk/dWa dE/dWa=-2*(Tk正常)*dOk/dWa//这个负号是从哪里来的 因此派生必须是2*(目标输出)。我不明白负数是从哪里来的。我相信你也忘了取内部的导数。因为导数是输出的函数。因此,你还必须得到内部“-output”的导数,我们可以把它想象成“-x”。导数就是-1 因此,函数实际上是(目标-输出)(-1)(2),其中(-1)来自(-output)的导数,(2)

在我关于人工智能的书中,错误函数是(目标输出)^2

d=δ

W=重量

O=输出

T=目标

dE/Wa=dE/dOk*dOk/dWa

dE/dWa=-2*(Tk正常)*dOk/dWa//这个负号是从哪里来的


因此派生必须是2*(目标输出)。我不明白负数是从哪里来的。

我相信你也忘了取内部的导数。因为导数是输出的函数。因此,你还必须得到内部“-output”的导数,我们可以把它想象成“-x”。导数就是-1

因此,函数实际上是(目标-输出)(-1)(2),其中(-1)来自(-output)的导数,(2)来自幂

本网站介绍了该衍生产品的一些基本示例:

编辑:传统上,如果你只是简单地做反向传播,你是把梯度作为J的函数,所以实际上不应该有一个负号。负号的唯一时间是将导数作为输出的函数。但我会进一步研究这个问题