摘要

近日，卷积神经网络的内部机制及其做出特定决策的原因引起了越来越多的关注。在本文中，我们开发了一种基于类激活映射的新颖事后可视化解释方法，称为Score-CAM。与以往基于类激活映射的方法不同，Score-CAM通过每个激活图在目标类别上的前向传递得分来获得其权重，最终结果是通过权重和激活图的线性组合得到的。我们证明了Score-CAM在解释决策过程方面具有更好的视觉表现和公平性。我们的方法在识别和定位任务上均优于先前的方法，并且通过了合理性检查。此外，我们还指出了该方法作为调试工具的应用价值。官方代码已发布。