C++ 卷积层的反向传播

C++ 卷积层的反向传播,c++,c++11,neural-network,artificial-intelligence,backpropagation,C++,C++11,Neural Network,Artificial Intelligence,Backpropagation,我正在构建一个只有卷积层的CNN(到目前为止) 我使用了与ANN相同的算法。因为Conv层没有完全连接,并且有共享的权重,所以我不确定如何计算渐变和相应的统计信息。我尝试平均&Delta权重,并使用平均值进行后推。经过几次测试后,我认为这是行不通的,这使得迭代计算非常缓慢(每秒迭代1次,而不是80次) 如何正确地备份Conv层 如果任何人有任何关于其他层的backprop(如池)的信息或链接,那也很好。有许多SGD(随机梯度下降)算法,您可以选择反向传播。你可以试着像这样看他们中的一些人 -动力

我正在构建一个只有卷积层的CNN(到目前为止)

我使用了与ANN相同的算法。因为Conv层没有完全连接,并且有共享的权重,所以我不确定如何计算渐变和相应的统计信息。我尝试平均&Delta权重,并使用平均值进行后推。经过几次测试后,我认为这是行不通的,这使得迭代计算非常缓慢(每秒迭代1次,而不是80次)

如何正确地备份Conv层


如果任何人有任何关于其他层的backprop(如池)的信息或链接,那也很好。

有许多SGD(随机梯度下降)算法,您可以选择反向传播。你可以试着像这样看他们中的一些人 -动力 -阿达格拉德 -阿达德尔塔
-Adam…

有许多SGD(随机梯度下降)算法,您可以选择反向传播。你可以试着像这样看他们中的一些人 -动力 -阿达格拉德 -阿达德尔塔
-亚当…

我认为这不是回答这类问题的合适地方。尝试:卷积可以解释为一个完全连接的层,其参数矩阵非常稀疏,并且共享多个值。backprop只是矩阵的转置,我不认为这是解决这类问题的合适地方。尝试:卷积可以解释为一个完全连接的层,其参数矩阵非常稀疏,并且共享多个值。backprop只是该矩阵的转置。