Tensorflow 如果所有偏差和权重均为零,激活函数如何启动?

Tensorflow 如果所有偏差和权重均为零,激活函数如何启动?,tensorflow,Tensorflow,以下代码来自。在注释“创建模型”下有几行 W = tf.Variable(tf.zeros([784, 10])) b = tf.Variable(tf.zeros([10])) y = tf.matmul(x, W) + b 有人能告诉我,如果所有的权重和偏差都为零,激活函数是如何被激活的吗 “被解雇”只是指被评估。比如,如果你有一个函数f(x),并且知道值x,你就会计算结果。如果可以针对该值对函数进行求值,则求值函数将始终被激发 对于任何x、W、b函数,都会计算出它,因此它总是会被触发。

以下代码来自。在注释“创建模型”下有几行

W = tf.Variable(tf.zeros([784, 10]))
b = tf.Variable(tf.zeros([10]))
y = tf.matmul(x, W) + b 

有人能告诉我,如果所有的权重和偏差都为零,激活函数是如何被激活的吗

“被解雇”只是指被评估。比如,如果你有一个函数
f(x)
,并且知道值
x
,你就会计算结果。如果可以针对该值对函数进行求值,则求值函数将始终被激发

对于任何
x、W、b
函数,都会计算出它,因此它总是会被触发。另一件事是梯度永远是0,这个网络什么也学不到。

这就是问题所在,“这个网络什么也学不到”。那么把所有的权重和偏差都置为零有什么意义呢?为什么他们不改为置随机数呢??