Machine learning Tensorflow所有变量都经过训练吗?

Machine learning Tensorflow所有变量都经过训练吗?,machine-learning,tensorflow,deep-learning,Machine Learning,Tensorflow,Deep Learning,当使用tensorflow的自动微分时,每次迭代都会更新哪些变量 例如,如果我有一个带有状态变量的普通RNN,自动微分会计算它的梯度并为每个时间步更新它吗,因为它会导致损失 例如,普通RNN的方程式为: h_t=X_t W_X+h_{t-1}W_h+b tensorflow如何知道更新W_x、W_h和b,而不是h_{t-1} 对不起,我遗漏了一些明显的东西 RNN的状态未定义为可训练的tensorflow变量。它只是图形中的一个节点,用于连接其他节点。相反,权重矩阵W_x和W_h被明确定义为具有

当使用tensorflow的自动微分时,每次迭代都会更新哪些变量

例如,如果我有一个带有状态变量的普通RNN,自动微分会计算它的梯度并为每个时间步更新它吗,因为它会导致损失

例如,普通RNN的方程式为:

h_t=X_t W_X+h_{t-1}W_h+b

tensorflow如何知道更新W_xW_hb,而不是h_{t-1}


对不起,我遗漏了一些明显的东西

RNN的状态未定义为可训练的tensorflow变量。它只是图形中的一个节点,用于连接其他节点。相反,权重矩阵
W_x
W_h
被明确定义为具有
tf.Variable(…,trainable=True)
的tensorflow变量。梯度是针对可训练变量计算的,因此它们只是优化过程中更新的对象

RNN的状态未定义为可训练的tensorflow变量。它只是图形中的一个节点,用于连接其他节点。相反,权重矩阵
W_x
W_h
被明确定义为具有
tf.Variable(…,trainable=True)
的tensorflow变量。梯度是针对可训练变量计算的,因此它们只是优化过程中更新的对象

当你调用
opt.minimize
时,你可以提供一个你可以区分的变量列表,因此如果你想最小化它,你可以给出“h_t”。当你调用
opt.minimize
时,你可以提供一个你可以区分的变量列表,因此如果你想最小化它,你可以给出“h_t”