Neural network 如何培养深度学习网络

Neural network 如何培养深度学习网络,neural-network,deep-learning,conv-neural-network,Neural Network,Deep Learning,Conv Neural Network,有两件事我不知道该怎么办 我用alexnet训练网络,它无法收敛。而且没有过度装修。然而,当我用lenet训练网络时,它收敛了。为什么呢 我训练网络来解决一个问题。然而,这并不足够。softmax损耗不能低于(0.2)。我该怎么办呢 网络容量不足或代码本身存在缺陷可能会导致无法进行过度调整。你是从零开始训练模特吗?模型是你自己写的吗?您是否正在从事与Imagenet分类规模类似的任务 在任何类型的模型训练中都会出现损失平稳。但如果没有任何学习曲线显示各个时代的损失,那么损失“0.2”是毫无意义的

有两件事我不知道该怎么办

  • 我用alexnet训练网络,它无法收敛。而且没有过度装修。然而,当我用lenet训练网络时,它收敛了。为什么呢
  • 我训练网络来解决一个问题。然而,这并不足够。softmax损耗不能低于(0.2)。我该怎么办呢
  • 网络容量不足或代码本身存在缺陷可能会导致无法进行过度调整。你是从零开始训练模特吗?模型是你自己写的吗?您是否正在从事与Imagenet分类规模类似的任务

  • 在任何类型的模型训练中都会出现损失平稳。但如果没有任何学习曲线显示各个时代的损失,那么损失“0.2”是毫无意义的


  • 如果不知道您所从事的具体任务、使用的框架、源代码、学习曲线和/或您所采取的任何调试步骤,没有人能够真正回答您的问题。我建议你回到《机器学习基础》(特别是第4、5课)或《机器学习基础》课程,学习更基本的知识。

    1。是的,我的alexnet模型中有一个bug。谢谢你的建议。