3 个月前

DecAug:通过分解特征表示与语义增强实现分布外泛化

DecAug:通过分解特征表示与语义增强实现分布外泛化

摘要

尽管深度学习在处理独立同分布(IID)数据方面展现出强大的能力,但在面对分布外(Out-of-Distribution, OoD)泛化时往往表现不佳,即测试数据来自与训练数据不同的分布。设计一种能够广泛适用于各类应用场景的通用OoD泛化框架极具挑战性,主要原因在于现实世界中普遍存在特征相关性漂移(correlation shift)和多样性漂移(diversity shift)。以往大多数方法仅能应对某一类特定的分布偏移,例如域间迁移或相关性外推问题。为解决这一局限,本文提出DecAug——一种新颖的解耦特征表示与语义增强方法,用于提升OoD泛化性能。DecAug通过将特征解耦为与类别相关和与上下文相关的两部分,实现对分布偏移的建模与抑制。其中,类别相关特征包含目标对象的因果性信息,而上下文相关特征则刻画了属性、风格、背景或场景等导致训练与测试数据分布差异的因素。该解耦过程通过正交化预测类别标签与上下文标签的损失函数对中间特征的梯度来实现。此外,本文进一步在上下文相关特征上引入基于梯度的增强策略,以提升所学习表示的鲁棒性。实验结果表明,DecAug在多个OoD数据集上均优于现有的先进方法,是极少数能够同时应对多种类型OoD泛化挑战的模型之一。

代码仓库

基准测试

基准方法指标
domain-generalization-on-nico-animalDecAug (Resnet-18)
Accuracy: 85.23
domain-generalization-on-nico-vehicleDecAug (Resnet-18)
Accuracy: 80.12
domain-generalization-on-pacs-2DecAug (Resnet-18)
Average Accuracy: 82.39
image-classification-on-colored-mnist-withMLP-DecAug
Accuracy : 69.60

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
DecAug:通过分解特征表示与语义增强实现分布外泛化 | 论文 | HyperAI超神经