Python 具有三维输入和三维输出的序列模型的形状解释器

Python 具有三维输入和三维输出的序列模型的形状解释器,python,tensorflow,shap,Python,Tensorflow,Shap,我在Keras(Tensorflow 2.2.0)中有一个顺序二元分类模型,它接受形状的输入(n_样本,n_时间步,n_特征),并提供形状的输出(n_样本,n_时间步,1)。我试着用这个模型 我按照他们的例子这样做: import shap explainer = shap.GradientExplainer(Seq_Model, X_train_3D[:10]) shap_values = explainer.shap_values(X_test_3D[:3]) 但我得到了这个错误:

我在Keras(Tensorflow 2.2.0)中有一个顺序二元分类模型,它接受形状的输入(n_样本,n_时间步,n_特征),并提供形状的输出(n_样本,n_时间步,1)。我试着用这个模型

我按照他们的例子这样做:

 import shap
 explainer = shap.GradientExplainer(Seq_Model, X_train_3D[:10])
 shap_values = explainer.shap_values(X_test_3D[:3])
但我得到了这个错误:

AssertionError:模型输出必须是向量或单个值

现在,我正在寻找一种使用SHAP GradientExplainer(或与此TF版本一起使用的任何其他类型的SHAP解释程序)的方法,它为具有3D输出的模型提供洞察。感谢您的帮助