Tensorflow 寻找全局极小值

我有一个神经网络，正在努力寻找全局极小值。我想知道找到它的正确方法。我知道我需要更改超参数，但因为您使用随机权重，我是否尝试多次使用相同的超参数？在我放弃之前，我要尝试多少种不同的组合

---

任何实用的建议都将不胜感激。

我认为没有一种方法可以找到具有梯度下降的NN的全局极小值（假设您使用的是这种方法）。我想你可以用SVM找到它

---

我不是机器学习专家，所以我可能错了。

这是基于梯度下降的优化的主要缺点。他们总是陷入局部极小，没有办法保证全局极小解

你可以用动量这样的术语来帮助你克服一些局部极小值。我建议尝试一些更先进的优化技术。这些将对您有所帮助，因为它们会自动选择和更新其中的一些超参数

---

你们也可以看看这篇文章，它比较了几种优化算法

为了找到损失函数的全局最小值，许多应用程序将其数据分成若干批，并以随机顺序处理这些批。这是随机梯度下降（SGD）方法。