Deep learning Caffe中暹罗网络的权重更新
通过访问此网站 ,， 我可以在Caffe中使用暹罗网络，它共享每个层的权重 但是，我想知道Caffe的暹罗网络是如何更新他们的共享权重的。 具体来说，如果我们有 输入1->conv1（共享）->output1 输入2->conv1（共享的）->output2==>对比损失（来自output1和output2） 那么，Caffe是否只是将第一个和第二个网络中conv1的两个梯度相加Deep learning Caffe中暹罗网络的权重更新,deep-learning,caffe,backpropagation,pycaffe,Deep Learning,Caffe,Backpropagation,Pycaffe,通过访问此网站 ,， 我可以在Caffe中使用暹罗网络，它共享每个层的权重 但是，我想知道Caffe的暹罗网络是如何更新他们的共享权重的。 具体来说，如果我们有 输入1->conv1（共享）->output1 输入2->conv1（共享的）->output2==>对比损失（来自output1和output2） 那么，Caffe是否只是将第一个和第二个网络中conv1的两个梯度相加 感谢您提前回复。您是正确的，共享权重（所有参数名称相同）的差异（梯度）是累积的。 请注意，不能对共享权重使用不同的
感谢您提前回复。您是正确的，共享权重（所有参数名称相同）的差异（梯度）是累积的。 请注意，不能对共享权重使用不同的学习速率乘数（lr_mult）。其他功能，如动量和重量衰减，应该像预期的那样工作