Tensorflow 深度学习模型的最大输入大小是多少
我有一个数据训练和测试使用完全连接的深层神经网络FC-DNN;我应该训练的输入数据的大小几乎是3000,第一个隐藏层应该是4096,第三层是4096,最后输出层应该是3000Tensorflow 深度学习模型的最大输入大小是多少,tensorflow,machine-learning,deep-learning,neural-network,Tensorflow,Machine Learning,Deep Learning,Neural Network,我有一个数据训练和测试使用完全连接的深层神经网络FC-DNN;我应该训练的输入数据的大小几乎是3000,第一个隐藏层应该是4096,第三层是4096,最后输出层应该是3000 我的问题是深度神经网络的规模是否合理和可接受?深度神经网络的最大合理尺寸是多少?无论是每层神经元还是层数,都没有最大合理尺寸。在一个特定的点之后,这实际上取决于您试图解决的问题,当应用多个密集层时,您的回报会递减。事实上,这可能导致过度装配,应避免过度装配。同时,在没有剩余连接的情况下,叠加多个密集层使网络超深也可能导致消
我的问题是深度神经网络的规模是否合理和可接受?深度神经网络的最大合理尺寸是多少?无论是每层神经元还是层数,都没有最大合理尺寸。在一个特定的点之后,这实际上取决于您试图解决的问题,当应用多个密集层时,您的回报会递减。事实上,这可能导致过度装配,应避免过度装配。同时,在没有剩余连接的情况下,叠加多个密集层使网络超深也可能导致消失梯度问题 您应该手动尝试添加几层,并且只有当您发现网络在您的问题中表现不好时,才应该添加更多层。低精度/其他指标是不匹配的标志
另外,对于最后一层,我不认为你的问题需要3000个神经元。如果是回归,一个线性激活的神经元就足够了。只有当你有3000个不同的类别时,才需要3000个神经元。这里我们只讨论回归和分类。没有规则来确定每层神经元的数量或层的数量。你需要用不同数量的神经元和层进行实验。谢谢你。。。输出神经元是我正在研究的东西,这是一个新的模型,我试图优化这样的功能。。我可以和你讨论一下。现在,你否决了这个问题吗?为什么?怎么了?我把它作为新问题贴在这里了。先谢谢你