Fatal编程技术网

Machine learning 平均绝对误差的偏导数

machine-learning

Machine learning 平均绝对误差的偏导数,machine-learning,linear-regression,gradient,gradient-descent,derivative,Machine Learning,Linear Regression,Gradient,Gradient Descent,Derivative,MAE的偏导数是什么？我理解，对于均方误差（MSE），假设使用以下版本的MSE，关于某些x1的偏导数将是-x1*（y_pred-y_actual） 当损失函数是MAE而不是MSE时，x1的偏导数是什么？我一直想找到这个，但我没有任何运气。当x1大于0时，（y\u pred-y\u actual）当x1小于0时，（y\u pred-y\u actual）是否就是？或者我还遗漏了什么？除非你只有一个神经元，否则损失函数对每个重量的偏导数没有固定的公式；这完全取决于网络中神经元之间的连接。偏导数公式

MAE的偏导数是什么？我理解，对于均方误差（MSE），假设使用以下版本的MSE，关于某些
x1
的偏导数将是
-x1*（y_pred-y_actual）

当损失函数是MAE而不是MSE时，
x1
的偏导数是什么？我一直想找到这个，但我没有任何运气。当
x1
大于0时，
（y\u pred-y\u actual）
当
x1
小于0时，
（y\u pred-y\u actual）
是否就是？或者我还遗漏了什么？

除非你只有一个神经元，否则损失函数对每个重量的偏导数没有固定的公式；这完全取决于网络中神经元之间的连接。偏导数公式不仅仅是一个，每个权重都有不同的一个

对于2、3层的小网络，应用链式规则和求和规则手动求损失函数的偏导数，否则，需要反向传播中的动态编程。

我投票结束这个问题，因为它不是关于中定义的编程，而是关于ML理论和/或方法-请参阅机器学习中的介绍和说明。