Machine learning 如何在caffe和torch中设置本地偏见?

Machine learning 如何在caffe和torch中设置本地偏见?,machine-learning,neural-network,deep-learning,caffe,torch,Machine Learning,Neural Network,Deep Learning,Caffe,Torch,将多通道图像卷积为一个通道图像时,通常只能有一个偏置变量(因为输出是一个通道)。如果我想设置局部偏差,也就是说,为输出图像的每个像素设置偏差,我应该如何在caffe和torch中做到这一点 在Tensorflow中,这非常简单。您只需设置一个偏差矩阵,例如: 数据为25(高度)X25(宽度)X48(通道) 权重为3X3(内核大小)X48(输入通道)X1(输出通道) 偏差为25X25 那么 hidden = tf.nn.conv2d(data, weights, [1, 1, 1, 1], pad

将多通道图像卷积为一个通道图像时,通常只能有一个偏置变量(因为输出是一个通道)。如果我想设置局部偏差,也就是说,为输出图像的每个像素设置偏差,我应该如何在caffe和torch中做到这一点

在Tensorflow中,这非常简单。您只需设置一个偏差矩阵,例如:

数据为
25(高度)X25(宽度)X48(通道)

权重为
3X3(内核大小)X48(输入通道)X1(输出通道)

偏差为
25X25

那么

hidden = tf.nn.conv2d(data, weights, [1, 1, 1, 1], padding='SAME')    
output = tf.relu(hidden+biases)

caffe或TORCH中是否有类似的解决方案?

对于caffe,这里有一个比例层柱:。缩放层只能提供一个可变偏差。 答案是偏置层。偏置层可以有一个权重矩阵,将其视为偏置

对于torch,torch有一个nn.Add()层,与tensorflow的tf.Add()函数类似,因此nn.Add()层是解决方案

这些都得到了实际模型的验证


但是仍然非常感谢@Shai

你显然是对的
“Bias”
层是正确的选择。但是,如果您密切注意,
“缩放”
带有
bias\u term:true
的层具有内置的
“bias”
层,因此允许使用2D(“本地”)bias terms。