摘要

领域泛化是指训练一个模型，使其能够推广到在训练过程中未见过的新领域。本文介绍了CSD（Common Specific Decomposition，共性特异性分解），该方法在此设置下同时学习一个共性组件（能够推广到新领域）和一个领域特异性组件（在训练领域上过拟合）。训练完成后，领域特异性组件将被丢弃，仅保留共性组件。该算法极其简单，只需修改任意给定神经网络架构的最终线性分类层即可实现。我们进行了原则性的分析以理解现有方法，提供了CSD的可识别性结果，并研究了低秩对领域泛化的影响。实验结果表明，CSD在基于领域擦除、领域扰动数据增强和元学习的领域泛化方法中，要么与最先进方法持平，要么优于这些方法。进一步对旋转MNIST数据集进行诊断分析，其中领域具有可解释性，证实了CSD成功分离了共性和领域特异性组件，从而实现了更好的领域泛化性能。