Neural network 人工神经网络中学习与记忆的区分

是否有一个好的资源可以清楚地解释人工神经网络的学习和记忆之间的区别？如果该资源包含数学解释和/或证明，效果会更好。 我在网上和文献中都看过，但大多数都只是用一些例子来证明，比如物体检测或识别。例如： ，还有。。。名单很长。我觉得这是不够的。 我知道对一些人来说，这个问题可能听起来有点模糊，但是，是否存在这样一种情况，作为一个阈值，系统仅仅是在记忆或已经学习？

---

非常感谢。

我不知道任何证据的来源，但神经网络本质上是非常好的分类器，用于过度拟合/过度训练。如果你使用比你需要的更复杂的网络（你通常不知道它是什么）您可能会过度训练模型。正则化和退出用于防止或至少减少神经网络的过度拟合

当您的模型拟合过度时，这意味着它只找到了样本的特定分布模式，类似于您训练模型时使用的模式，因此失去了对所有看不见的输入进行概括的能力。这种行为称为记忆，当样本/输入具有顺序，但您不希望模型学习顺序，神经网络使用该顺序对样本进行分类时，也会发生记忆（例如，输入从低到中到高排序）。洗牌数据是解决这一问题的好办法

---

我只知道你能发现模型是否以这种方式记住了训练集：训练准确率很高，可能是100%，但测试准确率较低，而且这个很多没有阈值，它是经验性的，对于一个特定的问题，你甚至可以达到75%的准确率，但对于另一个问题，你甚至可以达到95%的准确率。

据我所知，过度拟合和泛化之间并没有一条细微的界限，这些概念随着你所解决的问题而急剧变化。我知道，但我认为，对于找出这个系统是在学习还是只是在数学上记忆，有某种概括。不是简单地评估它的准确性，我明白了。我不是专家，但我真的不认为你在寻找这样的东西。通过机器学习解决的问题几乎总是一个不适定问题，具有非常高维的假设空间，您无法很好地可视化或理解。现有的唯一方法是提供一些测试数据，看看模型的工作情况如何。我确信没有别的办法了。