Optimization TensorFlow中的停止梯度优化器
我试图在Tensorflow中建立一个简单的神经网络，但我有一个关于梯度优化的问题 这可能是一个幼稚的问题，但我是否必须设置条件来停止优化器？下面是我的网络中的一个打印输出示例，您可以看到在迭代（所有数据的批梯度下降）66之后，成本再次开始增加。那么，是否由我来确保优化器在这一点上停止？（注意：我没有把所有的输出放在这里，但是随着迭代次数的增加，成本开始呈指数增长） 谢谢你的指导Optimization TensorFlow中的停止梯度优化器,optimization,gradient,tensorflow,Optimization,Gradient,Tensorflow,我试图在Tensorflow中建立一个简单的神经网络，但我有一个关于梯度优化的问题 这可能是一个幼稚的问题，但我是否必须设置条件来停止优化器？下面是我的网络中的一个打印输出示例，您可以看到在迭代（所有数据的批梯度下降）66之后，成本再次开始增加。那么，是否由我来确保优化器在这一点上停止？（注意：我没有把所有的输出放在这里，但是随着迭代次数的增加，成本开始呈指数增长） 谢谢你的指导 iteration 64 with average cost of 654.621 and diff of 0.46
iteration 64 with average cost of 654.621 and diff of 0.462708
iteration 65 with average cost of 654.364 and diff of 0.257202
iteration 66 with average cost of 654.36 and diff of 0.00384521
iteration 67 with average cost of 654.663 and diff of -0.302368
iteration 68 with average cost of 655.328 and diff of -0.665161
iteration 69 with average cost of 656.423 and diff of -1.09497
iteration 70 with average cost of 658.011 and diff of -1.58826
这是正确的-TensorFlow类公开了一个，但它们不监视成本的当前值或决定何时停止，因此一旦网络开始过度匹配，您可能会看到成本增加 谢谢，@mry。这是我所期望的，但我只是想确认一下。