Tensorflow 计算稀疏Hessian分布的边推算法

Tensorflow 计算稀疏Hessian分布的边推算法,tensorflow,math,optimization,mathematical-optimization,automatic-differentiation,Tensorflow,Math,Optimization,Mathematical Optimization,Automatic Differentiation,我试图自己实现一些AD算法,但我不太明白Gower和Mello计算稀疏Hessian的方法 是否需要生成“原始梯度”的新计算图(例如,在计算(x^2)时是否应生成图(2*x)以找到二阶导数(2)),因为本文指出虚线弧表示“非线性相互作用”这些伴随词是如何累积形成二阶导数的呢 另外,如果需要一个新的图形,它与符号微分有什么区别?谢谢 无需生成新图形。相反,只需将非线性边“添加”到原始计算图中。我之所以说“添加”,是因为实际上,您只需要以相反的顺序横切计算图,当您发现节点的前辈之间存在非线性交互时,

我试图自己实现一些AD算法,但我不太明白Gower和Mello计算稀疏Hessian的方法

是否需要生成“原始梯度”的新计算图(例如,在计算(x^2)时是否应生成图(2*x)以找到二阶导数(2)),因为本文指出虚线弧表示“非线性相互作用”这些伴随词是如何累积形成二阶导数的呢


另外,如果需要一个新的图形,它与符号微分有什么区别?谢谢

无需生成新图形。相反,只需将非线性边“添加”到原始计算图中。我之所以说“添加”,是因为实际上,您只需要以相反的顺序横切计算图,当您发现节点的前辈之间存在非线性交互时,可以动态添加非线性边。明天我将把一些详细说明这一点的幻灯片上传到我的网页: