Deep learning 检查渐变时找到交叉弯折_Deep Learning_Caffe

Deep learning 检查渐变时找到交叉弯折

deep-learning

Deep learning 检查渐变时找到交叉弯折,deep-learning,caffe,Deep Learning,Caffe,我正在处理梯度检查中的一个数值问题我不确定是否存在cs231n（）中描述的“交叉扭结” 在cs231n的描述中，检查是否存在交叉扭结的一种方法是使用max函数请注意，在评估损失时，可以知道是否存在交叉扭结。这可以通过以max（x，y）形式跟踪所有“赢家”的身份来实现；也就是说，在向前传球时x或y高。如果在评估f（x+h）和f（x）时，至少一个获胜者的身份发生变化−h），然后交叉一个扭结，数值梯度将不精确什么是“身份” 梯度检查中的“x”或“y”是什么有人能通过提供一个具体的例子来帮助我

我正在处理梯度检查中的一个数值问题

我不确定是否存在cs231n（）中描述的“交叉扭结”

在cs231n的描述中，检查是否存在交叉扭结的一种方法是使用max函数

请注意，在评估损失时，可以知道是否存在交叉扭结。这可以通过以max（x，y）形式跟踪所有“赢家”的身份来实现；也就是说，在向前传球时x或y高。如果在评估f（x+h）和f（x）时，至少一个获胜者的身份发生变化−h），然后交叉一个扭结，数值梯度将不精确

什么是“身份”

梯度检查中的“x”或“y”是什么

有人能通过提供一个具体的例子来帮助我理解这一点吗

谢谢