Machine learning 咖啡馆在做什么记账?

Machine learning 咖啡馆在做什么记账?,machine-learning,neural-network,deep-learning,caffe,backpropagation,Machine Learning,Neural Network,Deep Learning,Caffe,Backpropagation,Caffe声明: 网络是连接在计算图中的一组层,确切地说是一个有向无环图(DAG)。Caffe对任何层的DAG进行所有记账,以确保向前和向后传球的正确性 “所有的簿记”是什么意思?我不明白。 如何做所有的簿记工作?Caffe和许多其他深度学习框架一样,使用随机梯度下降(SGD)训练其模型,实现为梯度反向传播。也就是说,对于一小批训练示例,caffe通过网络(“向前传递”)将该批输入,以计算网络参数的损失w.r.t。然后,它将损失梯度传播回(“向后传递”),以根据估计的梯度更新所有参数 通过本教程

Caffe声明:

网络是连接在计算图中的一组层,确切地说是一个有向无环图(DAG)。Caffe对任何层的DAG进行所有记账,以确保向前和向后传球的正确性

“所有的簿记”是什么意思?我不明白。

如何做所有的簿记工作?

Caffe和许多其他深度学习框架一样,使用随机梯度下降(SGD)训练其模型,实现为梯度反向传播。也就是说,对于一小批训练示例,caffe通过网络(“向前传递”)将该批输入,以计算网络参数的损失w.r.t。然后,它将损失梯度传播回(“向后传递”),以根据估计的梯度更新所有参数

通过本教程的“簿记”,您不必担心估计渐变和更新参数。一旦您使用现有层(例如,
“卷积”
“ReLU”
“Sigmoid”
等),您只需定义图形结构(网络的架构)并提供训练数据,caffe将负责训练过程的其余部分:它将向前/向后每个小批次,计算损失,估计梯度并更新参数-所有这些都是为您准备的。
非常棒,你不觉得吗?;)