Fatal编程技术网
  • python/
  • Python 应用Tensorflow'后，模型训练精度降低并停止学习；s批标准化

Python 应用Tensorflow'后，模型训练精度降低并停止学习；s批标准化

python tensorflow machine-learning deep-learning

Python 应用Tensorflow'后，模型训练精度降低并停止学习；s批标准化,python,tensorflow,machine-learning,deep-learning,Python,Tensorflow,Machine Learning,Deep Learning,所以我正在做一个模型来分类，一切都是有趣的游戏。我建立了3个卷积层、2个完全连接（密集）层和1个最后一个完全连接（线性）层的模型，作为使用tensorflow的logits，我添加了带有keep prob的dropout。对于完全连接的层为0.5，并且除了maxpooling和最后一个完全连接（logits）层之外，所有层均激活Relu conv Relu+maxpool>conv Relu+maxpool>conv Relu+maxpool>densite+Relu>densite+Relu>

所以我正在做一个模型来分类，一切都是有趣的游戏。我建立了3个卷积层、2个完全连接（密集）层和1个最后一个完全连接（线性）层的模型，作为使用tensorflow的logits，我添加了带有keep prob的
dropout
。对于完全连接的层为0.5，并且除了
maxpooling
和最后一个
完全连接（logits）
层之外，所有层均激活
Relu

conv Relu+maxpool>conv Relu+maxpool>conv Relu+maxpool>densite+Relu>densite+Relu>densite（logits）

该模型具有用于卷积层的深度过滤器，其验证准确率高达97%，训练准确率接近100%，因此作为一种良好的实践，我决定添加批量标准化，以获得收益；然而，当我以任何顺序添加
tf.layers.batch_normalization（）
任意位置时，我的训练精度会立即下降到验证精度以下，模型会抓紧学习

一批中有多少个示例用于培训？小批量将减少bn的影响。从128开始，然后将其放大到512