Machine learning 优化神经网络输入以实现收敛

我正在建立一个用于图像分类/识别的神经网络。10个类中的每个类都有1000个图像（30x30灰度）。不同类别的图像放置在不同的文件夹中。我计划使用反向传播算法来训练网络

我将训练示例输入网络的顺序是否会影响网络的收敛性

我应该以随机顺序提供培训示例吗

---

首先我会回答你的问题

是的，它会影响它的收敛性

是的，我们鼓励这样做，它被称为随机排列

但是为什么呢

引用自

大多数ANN软件中的一个常见示例是，您有150个实例组成您的数据集。这是大约三种不同类型的鸢尾花（花椰菜、维吉尼亚鸢尾和刚毛鸢尾）。数据集包含四个变量的测量值（萼片长度和宽度，花瓣长度和宽度）。这些病例的排列方式是，第一个病例50例属于刚毛，而病例51-100例属于花叶病，其余属于维吉尼亚。现在，您不想做的是按顺序将它们呈现给网络。换句话说，您不希望网络看到Versicola类中的所有50个实例，然后是Virginics类中的所有50个实例，然后是Setosa类中的所有50个实例。如果没有随机化，你的训练集将无法代表所有的类，因此，没有收敛性，也无法推广

另一个例子，在过去，我也有100个图像，每个字母表（26类），

---

当我按顺序（每个字母表）训练它们时，它没有收敛，但在我随机化后，它很容易收敛，因为神经网络可以概括字母表。

为什么不反向传播整个训练集的平均误差？随机化只在批量训练中有用吗？@EssamAl Mansouri，这需要更多的时间，而且我也不确定它是否能很好地收敛。嗯，我认为这不会对在线培训产生太大影响。