Deep learning CNN注意/激活图

通过卷积神经网络查找图像的哪些部分对图像分类贡献最大的常用技术是什么

通常，假设我们有二维矩阵，浮点值在0和1之间，作为entires。每个矩阵与一个标签（单标签、多类别）关联，目标是通过（Keras）2D CNN进行分类

我试图找到方法来提取对分类贡献最大的行/列的相关子序列

两个例子：

其他关注KERA的示例/资源将不胜感激

---

注意我的数据集不是实际的图像，因此使用ImageDataGenerator的方法可能不会直接应用于这种情况。

有许多可视化方法。这些方法各有优缺点

但是，您必须记住，这些方法部分地将不同的事物可视化。以下是基于此的简短概述。 您可以区分三个主要的可视化组：

• 函数（梯度、显著性图）：这些方法将输入空间的变化如何影响预测可视化
• 信号（反褶积、引导背撑、PatternNet）：信号（神经元激活的原因）是可视化的。因此，这可以直观地看出是什么模式导致了特定神经元的激活
• 归因（LRP，深层泰勒分解，模式归因）：这些方法将单个像素对预测的贡献可视化。因此，您会得到一个热图，突出显示输入图像中哪些像素对分类贡献最大

因为你要问一个像素对分类有多大贡献，所以你应该使用属性方法。然而，其他方法也有其存在的权利

可视化热图的一个很好的工具箱是。 此工具箱包含以下方法：

• 闭塞

---

两种常用方法是反褶积（转置卷积）或图像梯度。