Machine learning 为什么要考虑RMSProp；漏洞百出；？
我对上面这样的评论的措辞感到困惑，他们说RMSProp优化器的平方和是“泄漏的”。到目前为止，我已经能够发现，这一行是从安德烈·卡帕蒂（Andrej Karpathy）的复制品，而RMSProp是一个。从RMSProp的数学模型来看，很难弄清楚这些是如何“泄漏”的Machine learning 为什么要考虑RMSProp；漏洞百出；？,machine-learning,artificial-intelligence,reinforcement-learning,gradient,Machine Learning,Artificial Intelligence,Reinforcement Learning,Gradient,我对上面这样的评论的措辞感到困惑，他们说RMSProp优化器的平方和是“泄漏的”。到目前为止，我已经能够发现，这一行是从安德烈·卡帕蒂（Andrej Karpathy）的复制品，而RMSProp是一个。从RMSProp的数学模型来看，很难弄清楚这些是如何“泄漏”的 有谁知道为什么会这样描述RMSProp吗？RMSProp保持平方梯度的指数衰减平均值。“漏洞百出”的措辞（无论多么不幸）指的是之前的估计中有多少“漏洞百出”到当前的估计，因为 decay_rate = 0.99 # decay fac
有谁知道为什么会这样描述RMSProp吗？RMSProp保持平方梯度的指数衰减平均值。“漏洞百出”的措辞（无论多么不幸）指的是之前的估计中有多少“漏洞百出”到当前的估计，因为
decay_rate = 0.99 # decay factor for RMSProp leaky sum of grad^2
RMsprop保持平方梯度的指数衰减平均值。“漏洞百出”的措辞（无论多么不幸）指的是之前的估计中有多少“漏洞百出”到当前的估计，因为
decay_rate = 0.99 # decay factor for RMSProp leaky sum of grad^2