摘要

深度卷积神经网络（Deep Convolutional Neural Networks, DCNNs）目前已成为计算机视觉与机器学习领域中生成式学习和判别式学习的首选方法。DCNNs的成功在很大程度上归功于其构建模块的精心设计，例如残差块（residual blocks）、修正线性单元（rectifiers）以及复杂的归一化机制等。本文提出了一类新型的DCNN——Π-Net（Pi-Nets）。Π-Net是一种多项式神经网络，其输出为输入的高阶多项式函数。该网络可通过一种特殊的跳跃连接（skip connections）实现，其参数可由高阶张量（high-order tensors）表示。实验结果表明，Π-Net相较于标准DCNN具有更强的表征能力，在大量任务与信号类型（包括图像、图结构数据和音频）中，即使不使用非线性激活函数也能取得良好性能。当与激活函数结合使用时，Π-Net在图像生成等具有挑战性的任务中达到了当前最优水平。此外，本研究框架还揭示了近年来生成模型（如StyleGAN）为何能够超越前代模型（如ProGAN）的内在原因。