摘要

人工神经网络在各种不同的应用场景中展现了令人印象深刻的成功。选择合适的网络架构对于网络的成功至关重要，这一过程通常以手动方式进行。作为一种直接策略，人们倾向于选择大型、主要为全连接的架构，依赖于良好的优化策略来找到合适的权重，同时避免过拟合。然而，最终网络的大部分组件往往是冗余的。在最佳情况下，网络的大部分变得对后续推理无关紧要；而在最坏的情况下，高度参数化的架构阻碍了适当的优化，并且容易生成对抗样本以欺骗网络。去除无关的架构部分的第一步在于识别这些部分，这需要测量单个组件（如神经元）的贡献。以往的研究表明，基于神经元权重分布的启发式方法在测量贡献方面取得了一些成功，但未能提供充分的理论理解。因此，在我们的研究中，我们探讨了博弈论度量方法，特别是夏普利值（Shapley Value, SV），以区分人工神经网络中的相关和不相关部分。我们首先设计了一个针对人工神经网络的合作博弈模型，在该模型中，神经元形成联盟，而神经元对联盟的平均贡献则计算出夏普利值。为了评估夏普利值在测量单个神经元贡献方面的有效性，我们移除了低贡献的神经元，并测量其对网络性能的影响。实验结果表明，夏普利值在测量神经元贡献方面优于其他启发式方法。