Python 如何重新初始化Tensorflow会话
我正在优化Jupyter笔记本中的Tensorflow/Keras模型 一些Python 如何重新初始化Tensorflow会话,python,tensorflow,machine-learning,keras,jupyter-notebook,Python,Tensorflow,Machine Learning,Keras,Jupyter Notebook,我正在优化Jupyter笔记本中的Tensorflow/Keras模型 一些fit跑步陷入不学习状态(nan对于loss和acc) 在发生nan之后,如果我只是尝试重新运行单元格来创建模型并再次训练它,它将始终是nan 若我重新启动内核,下一次运行很可能运行良好 TF/Keras中是否有一个静态变量需要在不重新启动内核的情况下重置? 编辑:我在构建模型之前经常使用此代码,但它并不能解决我的问题 tf.keras.backend.clear_session() tf.keras.backend.g
fit
跑步陷入不学习状态(nan
对于loss和acc)
在发生nan
之后,如果我只是尝试重新运行单元格来创建模型并再次训练它,它将始终是nan
若我重新启动内核,下一次运行很可能运行良好
TF/Keras中是否有一个静态变量需要在不重新启动内核的情况下重置?
编辑:我在构建模型之前经常使用此代码,但它并不能解决我的问题
tf.keras.backend.clear_session()
tf.keras.backend.get_session().run(tf.global_variables_initializer())
EDIT2:这是TPU型号。在TPU模型上设置权重可能有缺陷。您是否考虑过不同的初始化可能会导致获得
nan
?如果您执行tf.keras.backend.clear_session()
然后设置随机种子tf.set_random_seed(42)
?那你能得到可重复的结果吗?我会在抓到另一个nan后再试一次。好主意。谢谢你这里有一个选项,随着训练的不断进行,你的梯度会爆炸吗?你有没有尝试过使用一个非常低的学习率和削减梯度?这可能会永久解决问题。不用担心。当TPU无法清除某些影响权重设置的变量时,可能会出现TPU错误。。TF TPU支持非常零散。。