Deep learning 如何分析和解释RBM学习到的特征？
我已经训练了一个单层，100个隐藏单元RBM，带有二进制输入单元和隐藏层上的ReLU激活。使用50k MNIST图像的训练集，经过500次动量和L1权重惩罚的整批训练后，我在10k图像测试集上得到了约5%的RMSE 看下面的可视化，很明显隐藏单位之间有很大的差异。有些似乎已经收敛到一个非常明确的响应模式，而另一些则无法与噪声区分开来 我的问题是：您如何解释这种明显的变化，以及什么技术可能有助于实现更平衡的结果？像这样的情况需要更多的正规化、更慢的学习、更长的学习时间，还是其他什么Deep learning 如何分析和解释RBM学习到的特征？,deep-learning,mnist,rbm,Deep Learning,Mnist,Rbm,我已经训练了一个单层，100个隐藏单元RBM，带有二进制输入单元和隐藏层上的ReLU激活。使用50k MNIST图像的训练集，经过500次动量和L1权重惩罚的整批训练后，我在10k图像测试集上得到了约5%的RMSE 看下面的可视化，很明显隐藏单位之间有很大的差异。有些似乎已经收敛到一个非常明确的响应模式，而另一些则无法与噪声区分开来 我的问题是：您如何解释这种明显的变化，以及什么技术可能有助于实现更平衡的结果？像这样的情况需要更多的正规化、更慢的学习、更长的学习时间，还是其他什么