4 个月前

构建单源域泛化的验证和训练分布偏移

构建单源域泛化的验证和训练分布偏移

摘要

单源域泛化(single-source domain generalization)试图在源域上训练一个模型,并将其部署到未见过的目标域中。仅限于访问源域数据带来了两个关键挑战——如何训练一个能够泛化的模型以及如何验证其泛化能力。传统的在训练分布上进行验证的做法无法准确反映模型的泛化能力,而直接在测试分布上进行验证则是需要避免的不当做法。在这项工作中,我们通过使用一系列全面的数据增强方法对源域图像进行变换,构建了一个独立的验证集,涵盖了目标域中可能出现的各种分布偏移。我们展示了多种方法在多个数据集上的验证性能与测试性能之间存在高度相关性。当用于方法选择时,所提出的验证方法相比传统验证方法实现了15.4%的相对准确率提升;当用于学习率调整时,则实现了1.6%的相对准确率提升。此外,我们引入了一种新的方法家族,通过增强边缘图来增加形状偏差(shape bias)。为了在训练过程中利用这些增强方法并保持验证集的独立性,设计了一个k折交叉验证过程,以分离训练和验证中使用的增强类型。从所提出的方法家族中选择在增强验证集上表现最佳的方法,该方法在各种标准基准测试中达到了最先进的性能。代码地址:https://github.com/NikosEfth/crafting-shifts

代码仓库

nikosefth/crafting-shifts
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
image-to-sketch-recognition-on-minidomainnetCrafting-Shifts(ResNet18)
Accuracy: 57.51
image-to-sketch-recognition-on-pacsCrafting-Shifts(AlexNet)
Accuracy: 68.5
image-to-sketch-recognition-on-pacsCrafting-Shifts(ResNet18)
Accuracy: 74.13
photo-to-rest-generalization-on-minidomainnetCrafting-Shifts(ResNet18)
Accuracy: 57.35
photo-to-rest-generalization-on-pacsCrafting-Shifts(ResNet18)
Accuracy: 65.85
photo-to-rest-generalization-on-pacsCrafting-Shifts(AlexNet)
Accuracy: 60.97
single-source-domain-generalization-on-digitsCrafting-Shifts(LeNet)
Accuracy: 82.61
single-source-domain-generalization-on-pacsCrafting-Shifts(ResNet18)
Accuracy: 70.37

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
构建单源域泛化的验证和训练分布偏移 | 论文 | HyperAI超神经