摘要

我们介绍了MAC网络，这是一种新颖的全可微神经网络架构，旨在促进明确且富有表现力的推理。MAC网络摒弃了单一的整体式黑箱神经架构，转向一种既鼓励透明度又具备灵活性的设计。该模型通过将问题分解为一系列基于注意力的推理步骤来解决问题，每个步骤由一个新颖的递归记忆、注意和组合（Memory, Attention, and Composition, MAC）单元完成，这些单元在控制和存储之间保持分离。通过将这些单元串联起来并施加结构约束以调节它们之间的交互，MAC网络能够有效地学习从数据中直接推断出的迭代推理过程，并采用端到端的方法。我们在具有挑战性的CLEVR视觉推理数据集上展示了该模型的强大性能、鲁棒性和可解释性，达到了98.9%的新最高准确率，将前一最佳模型的错误率降低了一半。更重要的是，我们证明了该模型在计算效率和数据效率方面表现出色，特别是在实现强结果时所需的数据量仅为现有模型的五分之一。