Python 具有三维输入和三维输出的序列模型的形状解释器
我在Keras(Tensorflow 2.2.0)中有一个顺序二元分类模型,它接受形状的输入(n_样本,n_时间步,n_特征),并提供形状的输出(n_样本,n_时间步,1)。我试着用这个模型 我按照他们的例子这样做:Python 具有三维输入和三维输出的序列模型的形状解释器,python,tensorflow,shap,Python,Tensorflow,Shap,我在Keras(Tensorflow 2.2.0)中有一个顺序二元分类模型,它接受形状的输入(n_样本,n_时间步,n_特征),并提供形状的输出(n_样本,n_时间步,1)。我试着用这个模型 我按照他们的例子这样做: import shap explainer = shap.GradientExplainer(Seq_Model, X_train_3D[:10]) shap_values = explainer.shap_values(X_test_3D[:3]) 但我得到了这个错误:
import shap
explainer = shap.GradientExplainer(Seq_Model, X_train_3D[:10])
shap_values = explainer.shap_values(X_test_3D[:3])
但我得到了这个错误:
AssertionError:模型输出必须是向量或单个值代码>
现在,我正在寻找一种使用SHAP GradientExplainer(或与此TF版本一起使用的任何其他类型的SHAP解释程序)的方法,它为具有3D输出的模型提供洞察。感谢您的帮助