摘要

归一化流（Normalizing flows）是输入与潜在表示之间具有完全可分解分布的双射映射，因其能够实现精确的似然评估和高效的采样而备受青睐。然而，由于双射性约束限制了模型的宽度，其有效容量往往不足。为此，我们提出通过逐步向中间表示添加噪声来提升模型能力。这些噪声的预处理方式基于先前的可逆单元，我们称之为单元间耦合（cross-unit coupling）。所提出的可逆Glow类模块通过融合密集连接块与Nystrom自注意力机制，显著增强了模型的表达能力。由于单元间耦合与模块内耦合均依赖于密集连接结构，我们将该架构命名为DenseFlow。实验结果表明，所提出的方法带来了显著的性能提升，并在中等计算资源预算下实现了当前最先进的密度估计效果。