Deep learning 如何在更深层次的批处理规范化中实现小批量划分？

假设我们有数据集X（2D数组），我们将它分成批

X_1，…，X_k

。 然后对每个批次进行归一化，然后将批次元素的每个第i个分量乘以参数

gamma_i

，并将其相加

beta_i

批处理规范化层可以重复多次，我并没有发现任何关于它在网络中如何实现的信息

在下一个BN层中，我们是否使用与开始相同的分批方法（在X中使用与第一个BN层相同的行），只是添加新的

gamma

和

beta

参数，还是从头开始为每个层的输入进行分批

---

希望，我的问题很清楚

你有没有试着实现这个？如果是，那么也发布您面临的错误/问题？不，我没有尝试实现它，我只是想了解算法的特定时刻您不必保持批量大小不变。