Tensorflow 卷积自动编码器:黑色特征映射

Tensorflow 卷积自动编码器:黑色特征映射,tensorflow,theano,convolution,autoencoder,Tensorflow,Theano,Convolution,Autoencoder,我正在使用卷积自动编码器。我的autoenoder配置有一个带有stride(2,2)或avg池和relu激活的卷积层,以及一个带有stride(2,2)或avg解卷和relu激活的反卷积层 我用MNIST数据集训练自动编码器 当我在第一个卷积层(20个过滤器,过滤器大小为3)后查看特征图时,我得到了一些黑色特征图,而学习的过滤器不是黑色的。如果更改过滤器的数量或大小,也会发生同样的情况 我用TensorFlow和Theano自动编码器得到了这种现象。(我还没有测试其他神经网络软件。) 有人知道

我正在使用卷积自动编码器。我的autoenoder配置有一个带有stride(2,2)或avg池和relu激活的卷积层,以及一个带有stride(2,2)或avg解卷和relu激活的反卷积层

我用MNIST数据集训练自动编码器

当我在第一个卷积层(20个过滤器,过滤器大小为3)后查看特征图时,我得到了一些黑色特征图,而学习的过滤器不是黑色的。如果更改过滤器的数量或大小,也会发生同样的情况

我用TensorFlow和Theano自动编码器得到了这种现象。(我还没有测试其他神经网络软件。)

有人知道为什么会这样吗


我可以在添加LRN层时避免黑色特征贴图,但我想了解为什么会出现黑色特征贴图。

我发现了同样的现象。 在使用7x7x3x6为数千个RGB图像训练卷积自动编码器后,两个或三个滤波器有一些输出,其他滤波器得到零输出。 当它们有太多的零输出滤波器时,误差不会减小。
我还更改了过滤器的数量和大小,但结果几乎相同。

你说的“黑色”是什么意思?到处都是零?你为什么认为这是个问题?谢谢你的回复。是的,“黑色”对我来说意味着零。我的目的是理解为什么输出变为零,而滤波器不是零。你能解释这种现象吗?在第二步中,我将第一个卷积层之后的输出作为完全连接的神经网络的输入。我认为零输出破坏了比原始MNIST数据集更糟糕的分类结果的数据。您是否将relu激活的输出展平了???并将其交给一个完全连接的层??你的网络应该有隐藏的单位