Deep learning CNN中卷积层的初始化

Deep learning CNN中卷积层的初始化,deep-learning,conv-neural-network,pytorch,Deep Learning,Conv Neural Network,Pytorch,是否有一个函数来初始化卷积层的权重,以便将更多的注意力集中在更靠近输入图像中心的信息上 我所有的输入图像都居中,因此距离图像中心较远的像素比距离图像中心较近的像素更重要。有关卷积的演示,请参见此处的GIF: 如您所见,卷积的操作与图像中的位置无关,因此权重初始化无法更改图像的焦点 也不建议仓促地考虑网络将需要什么和不需要什么来学习你的任务。有时候,在你作为一个人可能关注的范围之外,会有惊人数量的信号。我建议训练网,看看它的表现如何,然后(正如其他人所建议的)考虑裁剪 是否有一个函数来初始化卷积

是否有一个函数来初始化卷积层的权重,以便将更多的注意力集中在更靠近输入图像中心的信息上


我所有的输入图像都居中,因此距离图像中心较远的像素比距离图像中心较近的像素更重要。

有关卷积的演示,请参见此处的GIF:

如您所见,卷积的操作与图像中的位置无关,因此权重初始化无法更改图像的焦点

也不建议仓促地考虑网络将需要什么和不需要什么来学习你的任务。有时候,在你作为一个人可能关注的范围之外,会有惊人数量的信号。我建议训练网,看看它的表现如何,然后(正如其他人所建议的)考虑裁剪

是否有一个函数来初始化卷积层的权重,以便将更多的注意力集中在更靠近输入图像中心的信息上

这是不可能的,因为初始化只是为了触发学习过程。 然而,模型是一个可以发挥功能,实现注意力的模型


您不需要初始化转换层,因为在PyTorch中,这已经完成了。

为什么不适当地裁剪图像(例如,torchvision的
中心裁剪
)?卷积不是这样工作的,它是一个滑动窗口,收集图像中的局部模式。不能通过初始化内核来提高图像中心的重要性。卷积层是平移不变的,因此没有任何初始化方案可以实现这一点。