如何在使用tensorflow版本1时在激活前后应用批处理规范化

如何在使用tensorflow版本1时在激活前后应用批处理规范化,tensorflow,batch-normalization,batchnorm,Tensorflow,Batch Normalization,Batchnorm,实际上,我在我的网络中使用batchnorm,例如: conv_layer = tf.layers.conv2d(inputs=x, filters=16, kernel_size=[3, 3], padding="same", activation='relu') pooling_layer = tf.layers.average_pooling2d(inputs=conv_layer , pool_size=[2, 2], strides=1) batchnorm = t

实际上,我在我的网络中使用batchnorm,例如:

conv_layer = tf.layers.conv2d(inputs=x, filters=16, kernel_size=[3, 3], padding="same", activation='relu')
pooling_layer = tf.layers.average_pooling2d(inputs=conv_layer , pool_size=[2, 2], strides=1)
batchnorm = tf.layers.batch_normalization(pooling_layer)
但我不知道它是否适用于激活之前或之后。我似乎在追求,但我不确定

在网站上: 他们声明,他们的参考文献是Ioffe等人,2015年,在激活前适用。然而,我想对这两种方法进行实验,并比较它们的结果。不幸的是,在使用tensorflow 1时,我没有找到如何做到这一点

有人能帮我吗