Artificial intelligence 训练集神经网络的历元与均方误差计算

Artificial intelligence 训练集神经网络的历元与均方误差计算,artificial-intelligence,neural-network,Artificial Intelligence,Neural Network,我的问题是关于神经网络训练。我已经搜索过了,但是没有很好的解释 对于第一个问题,如何计算均方误差?(我知道这很傻,但我真的不明白) 第二: 当神经网络进行训练时,我们输入一个由多对(输入和期望输出)组成的训练集。现在我们应该什么时候计算均方误差?当我们已经把所有的鞋都穿上的时候,你会觉得吗?或者我们是为每一对计算它吗 如果是针对每一对,那么在训练集中的所有对都进行训练之前,当误差达到最小期望误差时,就有可能出现这种情况 第三:训练集的一个循环的历元值是否增加?或者,当每对(输入和期望的输出)被采

我的问题是关于神经网络训练。我已经搜索过了,但是没有很好的解释

对于第一个问题,如何计算均方误差?(我知道这很傻,但我真的不明白)

第二: 当神经网络进行训练时,我们输入一个由多对(输入和期望输出)组成的训练集。现在我们应该什么时候计算均方误差?当我们已经把所有的鞋都穿上的时候,你会觉得吗?或者我们是为每一对计算它吗

如果是针对每一对,那么在训练集中的所有对都进行训练之前,当误差达到最小期望误差时,就有可能出现这种情况

第三:训练集的一个循环的历元值是否增加?或者,当每对(输入和期望的输出)被采用时,它会增加吗?(我知道这是另一个愚蠢的行为,但请容忍)

多谢各位

问题是关于神经网络的训练。我已经搜索过了,但是没有很好的解释

网络上有几十种很好的解释,在文献中,海金的书可能就是这样一个例子:神经网络和学习机器

对于第一个问题,如何计算均方误差?(我知道这很傻,但我真的不明白)

在最简单的术语中,均方误差定义为

sum_i 1/n (desired_output(i) - model_output(i))^2
因此,您只需计算误差平方的平均值(输出与所需结果之间的差异)

现在我们应该什么时候计算均方误差?当我们已经把所有的鞋都穿上的时候,你会觉得吗?或者我们是为每一对计算它吗


两种方法都使用,一种称为批量学习,另一种称为在线学习。因此,接下来所有问题的答案都是“两者都是正确的,这取决于您使用的是批量学习还是在线学习”。选择哪一个?显然-这取决于情况,但为了简单起见,我建议从批学习开始(因此您计算所有训练样本的误差,然后进行更新)。

如果我们使用在线训练进行训练,并且误差在涵盖训练集中的所有数据项之前达到最小值,然后,我们跳过该值的权重更新,继续下一个训练数据,即我们确保在退出训练之前完成一个历元

因此,当人们谈到神经网络训练的结果误差时,误差与指定的最小误差相比较,它是均方误差吗?还是有任何类型的误差?有许多类型的误差,包括均方误差、熵误差、0/1损失等。它也在不同的数据集上测量:训练数据(不重要的测量)、验证误差(训练停止点的重要测量)或测试数据(重要度量,显示概括误差)