Machine learning 成本函数增加

在机器学习中，除了学习率过高之外，还有什么会导致成本函数随着迭代而增加呢。学习率很高，我得到了成本函数的振荡，我把它从1降低到0.001，现在成本函数在增加。我插入了一张成本与迭代的图片。

以下是一些其他变量：

• 降维方法：PCA
• 维度数：676
• 迭代次数：1000
• 学习率：0.0010
• 再极化常数：0.50

---

您适合哪种型号？如果您指的是有监督的无监督v.s。。。这是线性模型还是非线性模型？你穿得怎么样？嗯。。。好问题，特征是图片的rgb值。我没有让他们获得任何权力。所以我假设是线性的。我用的是梯度下降法。这不是我的意思，但没关系。检查您是否无意中实施了梯度上升而不是下降，以及您的成本函数和梯度定义是否正确。您适合哪种模型？如果您指的是有监督的v.s.无监督的。。。这是线性模型还是非线性模型？你穿得怎么样？嗯。。。好问题，特征是图片的rgb值。我没有让他们获得任何权力。所以我假设是线性的。我用的是梯度下降法。这不是我的意思，但没关系。检查您是否无意中实施了梯度上升而不是下降，以及您的成本函数和梯度定义是否正确。