Artificial intelligence 神经网络反向传播算法中训练数据的循环

我在一个培训周期中使用培训数据样本多少次？ 假设我有60个训练数据。我穿过第一排，向前传球，用向后传球的结果调整重量。使用如下所示的S形函数：

Forward pass 
Si = sum of (Wi * Uj)
Ui = f(Si) = 1 / 1 + e^ - Si

Backward pass 
Output Cell = (expected -Ui)(f'(Si)), where 
f'(Si) = Ui(1-Ui)

然后，我是否通过第二行并执行与第一行相同的过程，还是绕过第一行，直到错误减少

我希望有人能帮助培训网络 您应该在每个训练阶段使用训练集的每个实例一次

训练纪元是数据集中的一个完整周期

在遍历数据集并计算delta之后，应该调整网络的权重。然后，您可以在神经网络上执行一个新的前向传递，并在训练数据集中循环进行另一个训练历元。

图形表示法
可以找到反向传播的一个非常好的图形表示

---

单步训练 有两种方法可以训练您的网络对数据集执行分类。最简单的方法称为单步学习或在线学习。这是在大多数文献中都能找到的方法，也是收敛最快的方法。训练网络时，您将计算每个层的增量，并调整数据集每个实例的权重

因此，如果您有一个包含60个实例的数据集，这意味着您应该在训练期结束之前调整权重60次

批量训练 另一种方法称为批量培训或离线学习。这种方法通常产生具有较低残余误差的网络。 训练网络时，应为数据集的每个实例计算每个层的增量，然后最终平均每个增量，并在每个历元校正一次权重

---

如果您有一个包含60个实例的数据集，这意味着您应该在训练结束之前调整一次权重。

非常感谢您的帮助。你是说我应该循环所有60个数据并计算delta，一旦循环完成，我就调整权重？或者我要循环60个数据，然后在计算完增量后立即调整权重？我扩展了我的答案，因为这不能用600个内联字符来解释。我想你应该选择在线版本！我想澄清一下你的主要问题：我在一个训练周期中使用了多少次训练数据样本？一次，几乎总是。谢谢。如果我只使用一组数据，我理解它是如何工作的。当我有多个训练数据时，混乱就开始了。我想我是在尝试单步训练。我不确定你所说的“调整网络每个实例的权重”是什么意思。我以为我们只使用网络的一个实例来训练jorgenkp所谓的“单步训练”在大多数文献中称为随机训练。几乎在所有情况下，随机训练都会胜过批量训练。