Python 如何在tensorflow 1.12中使用层规范化?
我被tensorflow 1.12卡住了,我需要使用层规范化。我找不到这方面的一些例子,由于我对tensorflow还不熟悉,所以我无法找出哪里出了问题Python 如何在tensorflow 1.12中使用层规范化?,python,tensorflow,Python,Tensorflow,我被tensorflow 1.12卡住了,我需要使用层规范化。我找不到这方面的一些例子,由于我对tensorflow还不熟悉,所以我无法找出哪里出了问题 tf.contrib.layers.layer\u norm是我想在我的tf.keras.Sequential()中包含的函数,如下所示- self.module = K.Sequential([ tf.contrib.layers.layer_norm(trainable=True),
tf.contrib.layers.layer\u norm
是我想在我的tf.keras.Sequential()
中包含的函数,如下所示-
self.module = K.Sequential([
tf.contrib.layers.layer_norm(trainable=True),
K.layers.Activation(self.activation),
K.layers.Dense(units=self.output_size, activation=None, kernel_initializer=self.initializer)
])
我也试过使用
self.ln = tf.contrib.layers.layer_norm(trainable=True)
### and in call()
self.ln(self.module)
在所有情况下,它都会在定义tf.contrib.layers.layer\u norm(trainable=True)
-
我知道需要将输入作为LayerForm的参数提供,但如果我希望它是可训练的,则只能在\uuuu init\uuuu()
中定义它。我哪里做错了
我主要使用Pytork,因此很明显我无法掌握
tf
的思想。任何建议都会很有帮助 Sequential
需要通过Layer
实例列表进行初始化,例如tf.keras.layers.Activation
,tf.keras.layers.Dense
<代码>tf.contrib.layers.layer\u norm是功能性的,而不是层
实例
keras风格的第三方层规范化实现-。但我还没有测试过tensorflow
Sequential
需要通过Layer
实例列表进行初始化,例如tf.keras.layers.Activation
,tf.keras.layers.Dense
<代码>tf.contrib.layers.layer\u norm是功能性的,而不是层
实例
keras风格的第三方层规范化实现-。但我还没有测试过tensorflow 你不能像那样使用顺序。它用于连接keras层,以便它们可以自动计算输入。出现错误是因为您刚刚加入了一个tensorflow函数/层的一部分,该函数/层要求您显式指定输入张量。真的不能这样混搭。有一个keras批处理规范层您可能感兴趣?我想改用层规范。我最终在
call()
中调用了layer\u norm,它似乎起到了作用。你看到有什么陷阱吗?你不能像那样使用顺序。它用于连接keras层,以便它们可以自动计算输入。出现错误是因为您刚刚加入了一个tensorflow函数/层的一部分,该函数/层要求您显式指定输入张量。真的不能这样混搭。有一个keras批处理规范层您可能感兴趣?我想改用层规范。我最终在call()
中调用了layer\u norm,它似乎起到了作用。你看到有什么陷阱吗?TypeError:layer_norm()缺少1个必需的位置参数:“inputs”根据错误,你没有将“input”参数传递给layer_norm()。TypeError:layer_norm()缺少1个必需的位置参数:“inputs”根据错误,你没有将“input”参数传递给layer_norm()。
TypeError: layer_norm() missing 1 required positional argument: 'inputs'