Machine learning 学习率和梯度下降差？

这两者的区别是什么？例如，这两个函数的作用是达到最小点，即降低函数的损耗

我知道，我认为学习率乘以梯度斜率，使梯度下降，但这是真的吗？我错过什么了吗

lr和梯度有什么区别

---

感谢

使用随机梯度下降算法训练深度学习神经网络

随机梯度下降是一种优化算法，它使用训练数据集中的示例估计模型当前状态的误差梯度，然后使用误差反向传播算法（简称反向传播）更新模型的权重

训练期间更新权重的量称为步长或“学习率”

具体而言，学习率是一个可配置的超参数 用于神经网络的训练，具有很小的积极性 值，通常在0.0到1.0之间

学习速率控制模型适应问题的速度。鉴于每次更新对权重所做的更改较小，较小的学习率需要更多的训练周期，而较大的学习率会导致快速更改，并且需要较少的训练周期

学习率太大可能导致模型太快收敛到次优解，而学习率太小可能导致过程陷入停滞

训练深度学习神经网络的挑战在于仔细选择学习速率。它可能是模型最重要的超参数

学习率可能是最重要的超参数。如果您只有时间调整一个超参数，请调整学习速率

-第429页，深度学习，2016年

有关学习率是什么以及如何工作的更多信息，请参阅帖子：

---

您也可以在这里参考：

在您搜索答案后，最好在这里提问：这里是代码相关问题的地方。请考虑其他STACKExchange社区，如考虑到许多算法今天梯度梯度自动。例如亚当，RMSProp etc.。