摘要

深度神经网络通常利用成千上万条难以理解的特征来识别单一类别，其决策过程远超人类可理解的范围。本文提出在深度神经网络中引入一种可解释的稀疏且低维度的最终决策层，该层具备可度量的可解释性，并在细粒度图像分类任务上进行了验证。我们认为，只有当模型所使用的特征具备可解释性，且单次决策仅依赖极少数特征时，人类才能真正理解机器学习模型的决策过程。为此，最终决策层必须具有稀疏性，同时为使特征解释成为可能，还应保持低维度。我们将具备这种特性的模型称为稀疏低维决策模型（Sparse Low-Dimensional Decision, SLDD-Model）。实验表明，相较于密集的高维决策层，SLDD-Model在局部和全局层面均更易于解释，同时仍能保持具有竞争力的分类准确率。此外，我们提出一种新的损失函数，能够有效提升模型的特征多样性与分类性能。在四个常用的基准数据集上，我们的SLDD-Model仅使用每类50个特征中的5个，便实现了与基准模型（使用2048个特征）相当的性能，准确率保持在97%至100%之间。