Machine learning 甚深神经网络训练误差
理论上，随着神经网络层数的增加，训练误差必须减小。但实际上，它在一定程度上减少了，而在一定程度上增加了。为什么会发生这种情况？（正如Andrew Ng在一门课程中提到的）< P>因为它已经足够大到足以记住训练数据而失去了泛化能力。p> 嗨@Andrii，对于一个足够大的网络来说，记住训练数据应该很容易，对吧？我认为这很大程度上取决于神经网络的架构、训练算法和数据Machine learning 甚深神经网络训练误差,machine-learning,neural-network,Machine Learning,Neural Network,理论上，随着神经网络层数的增加，训练误差必须减小。但实际上，它在一定程度上减少了，而在一定程度上增加了。为什么会发生这种情况？（正如Andrew Ng在一门课程中提到的）< P>因为它已经足够大到足以记住训练数据而失去了泛化能力。p> 嗨@Andrii，对于一个足够大的网络来说，记住训练数据应该很容易，对吧？我认为这很大程度上取决于神经网络的架构、训练算法和数据