Artificial intelligence 神经网络的优缺点

我说神经网络善于为问题找到“足够好”的解决方案，对吗

我这样想是因为它们没有为给定的输入提供二进制输出，但是概率，例如0.67可能是一个输出

我也在猜测，因为它们经常被用于泛化，它们擅长找到通常能解决问题的解决方案，但在某些罕见的情况下却不能

---

谢谢大家!

这个问题没有简单的答案。神经网络的优缺点是一个非常复杂的话题。以下是一些要点：

• 没有免费午餐定理：粗略地说，这个定理证明了没有“完美”的机器学习方法。对于每一个问题，某个方法是好的，还有另一个问题，同样的方法会严重失败。然而，失败的方法可能很容易用其他方法解决。在进行任何机器学习时，应始终考虑这一点

• 神经网络很容易实现（你不需要一个好的线性代数解算器，比如SVN）

• 神经网络的VC维度尚不清楚。当你想考虑一个解决方案可能有多好时，这是非常重要的。

• 神经网络不能再训练。如果以后添加数据，则几乎不可能将其添加到现有网络中

• 神经网络通常表现出与人类相似的模式。然而，与实际例子相比，认知科学更感兴趣

• 神经网络中时间序列数据的处理是一个非常复杂的课题

---

这就是我现在所能想到的。也许其他人可以补充更多。

这是一个非常广泛的问题。一般来说，具有一个隐层、一个非线性激活函数和足够数量的隐神经元的神经网络能够以任意精度逼近任何函数。然而，误差函数不是凸函数，因此训练的结果取决于初始化

支持向量机也能够逼近任何函数。它们非常流行，因为优化问题有唯一的解决方案，可能还有其他原因。但最近的研究表明，多层感知器、卷积神经网络、深度信念神经网络、多列深度神经网络等神经网络对于具有大量数据的复杂应用程序更有效，并取得更好的结果。因此，正如李考所说（没有免费午餐定理），这始终是一种权衡，没有一个分类器是“完美的”

本文描述了深度网络与“浅层网络”（包括支持向量机）相比的优势：

以下是标准基准和不同学习算法的比较：

---

这里有一篇文章描述了一种新的神经网络，它特别擅长解决一些视觉问题（交通标志识别，ocr）：

我编辑过，希望它更有意义。它现在比以前更好了，但它可能不会在这里长期存在。你可以试着把这个贴在程序员身上（参见底部的链接）。关于SO的问题应该是关于特定的编程问题，并且应该允许一个直接的、明确的答案。有人能解释一下这个否决票吗？第二句回答了问题。：）我对党派之争投了反对票。“真实世界的应用程序”声明是没有根据的，没有必要的。好吧，也许我应该添加一些文件来支持我的声明。对于“真实世界的应用”，我指的是视觉、BCI数据、具有大输入维度和庞大训练集的复杂问题（>100k样本）。你能解释一下为什么神经网络不能被重新训练吗？如果已经学习了权重，并且如果我们收到了一批新的数据，那么该批数据就不能使用从以前的模型中学习的权重作为初始权重来再次训练模型吗？@vishnuviswanath不幸的是，我真的不知道理论背景。在我的实验中，再培训从未奏效，网络总是陷入僵局。在大学的时候，我问过一位神经信息学教授，他还告诉我，反向传播网络的再培训从来没有真正奏效过。