摘要

我们提出了一种新型损失函数——协方差损失（Covariance Loss），其概念上等价于条件神经过程（Conditional Neural Processes），并具有正则化形式，因而可适用于多种类型的神经网络。借助所提出的损失函数，从输入变量到目标变量的映射不仅受到目标变量之间依赖关系的影响，还受到输入与目标变量的均值激活以及均值依赖关系的共同影响。这一特性使得训练所得的神经网络对噪声观测更具鲁棒性，并能够基于先验信息恢复缺失的依赖关系。为验证该损失函数的有效性，我们在多个真实世界数据集上，采用当前先进的模型进行了大量实验，并深入讨论了所提出的协方差损失在实际应用中的优势与局限性。