Fatal编程技术网
  • machine-learning/
  • Machine learning 如何利用FTRL优化器确定神经网络的初始权值

Machine learning 如何利用FTRL优化器确定神经网络的初始权值

machine-learning neural-network

Machine learning 如何利用FTRL优化器确定神经网络的初始权值,machine-learning,neural-network,Machine Learning,Neural Network,在逻辑回归中，n，z的初始值都可以为零，然后通过梯度进行更新。然而，同样的初始化会导致神经网络的零预测，因此网络永远无法更新。那么，当使用FTRL训练神经网络时，合理的初始化是什么呢 你所说的n和z是什么意思？与http://delivery.acm.org/10.1145/2490000/2488200/p1222-mcmahan.pdf 你所说的n和z是什么意思？与http://delivery.acm.org/10.1145/2490000/2488200/p1222-mcmahan.pd

在逻辑回归中，
n，z
的初始值都可以为零，然后通过梯度进行更新。然而，同样的初始化会导致神经网络的零预测，因此网络永远无法更新。那么，当使用FTRL训练神经网络时，合理的初始化是什么呢

你所说的
n
和
z
是什么意思？与
http://delivery.acm.org/10.1145/2490000/2488200/p1222-mcmahan.pdf
你所说的
n
和
z
是什么意思？与
http://delivery.acm.org/10.1145/2490000/2488200/p1222-mcmahan.pdf