Tensorflow2.0 是否可以将Tensorflow图形中的Levenberg-Marquardt优化器与Tensorflow 2.0模型集成?

Tensorflow2.0 是否可以将Tensorflow图形中的Levenberg-Marquardt优化器与Tensorflow 2.0模型集成?,tensorflow2.0,tf.keras,Tensorflow2.0,Tf.keras,我有一个Tensorflow 2.0tf.keras.Sequential模型。现在,我的技术规范规定使用Levenberg-Marquardt优化器来适应模型。Tensorflow 2.0没有提供现成的优化器,但它在模块中可用 tfg.math.optimizer.levenberg\u marquardt.minimize函数接受残差(残差是Python可调用的返回张量)和变量(对应于我的模型权重的张量列表)作为参数 将我的模型转换为残差和变量的最佳方法是什么 如果我正确理解最小化函数的工作

我有一个Tensorflow 2.0
tf.keras.Sequential
模型。现在,我的技术规范规定使用Levenberg-Marquardt优化器来适应模型。Tensorflow 2.0没有提供现成的优化器,但它在模块中可用

tfg.math.optimizer.levenberg\u marquardt.minimize
函数接受
残差
(残差是Python
可调用的
返回张量)和
变量
(对应于我的模型权重的张量列表)作为参数

将我的模型转换为残差和变量的最佳方法是什么

如果我正确理解
最小化
函数的工作原理,我必须提供两个残差。第一个残差必须为每个学习案例调用我的模型,并将所有结果聚合为一个张量。第二个残差必须以单个常量张量返回所有标签。问题是
tf.keras.Sequential.predict
函数返回一个numpy数组而不是张量。我相信如果我把它转换成张量,极小值就不能计算变量的雅可比矩阵


变量也存在同样的问题。似乎没有办法将模型中的所有权重提取到张量列表中。

你知道怎么做吗?我正在努力实现类似的目标。我正在尝试训练一个浅层神经网络(它在matlab上使用Levenberg Marquardt,做得非常好)。然而,在Keras上使用ADAM训练的同一个系统做得很糟糕,而不是真的。我最终硬编码了这个公式。现在,当模型改变时,我必须相应地改变公式。嘿@psimeson,你有什么消息吗?我在同样的问题上被绊倒了:将旧的matlab脚本转换为keras