3 个月前

StyleAdv:面向跨域少样本学习的元风格对抗训练

StyleAdv:面向跨域少样本学习的元风格对抗训练

摘要

跨域小样本学习(Cross-Domain Few-Shot Learning, CD-FSL)是一项近年来兴起的任务,旨在解决不同领域之间的少样本学习问题。其核心目标是将模型在源数据集上学习到的先验知识有效迁移至全新的目标数据集。然而,该任务面临的主要挑战在于不同数据集之间存在的巨大领域差异。值得注意的是,这种领域差异本质上源于视觉风格的变化。已有研究表明,扩展源数据集的风格分布有助于缓解这一问题。然而,现有的wave-SAN方法仅通过简单交换两张图像的风格来实现,这种基础操作生成的风格虽然“真实”且“容易”,但仍然局限于源数据原有的风格集合之中。受传统对抗学习思想的启发,本文提出一种新型、模型无关的元风格对抗训练方法——StyleAdv,以及一种新颖的风格对抗攻击方法,专门用于提升CD-FSL的性能。特别地,我们的风格攻击方法能够合成出兼具“虚拟”与“困难”特性的对抗风格用于模型训练。具体而言,通过在原始风格上施加符号化的风格梯度扰动,生成具有挑战性的新型风格样本。通过持续对风格进行对抗性攻击,并迫使模型识别这些高难度的对抗风格,模型逐步增强对各类视觉风格的鲁棒性,从而显著提升其在新目标数据集上的泛化能力。除了在典型的基于CNN的骨干网络(如ResNet)上验证外,本文还将StyleAdv方法拓展至大规模预训练视觉Transformer(Vision Transformer, ViT)架构。在八个不同目标数据集上的大量实验表明,所提方法具有显著有效性。无论基于ResNet还是ViT,本方法均在CD-FSL任务上取得了新的最先进(SOTA)性能。相关代码已开源,地址为:https://github.com/lovelyqian/StyleAdv-CDFSL。

代码仓库

lovelyqian/styleadv-cdfsl
官方
pytorch
GitHub 中提及
lovelyqian/wave-SAN-CDFSL
pytorch
GitHub 中提及

基准测试

基准方法指标
cross-domain-few-shot-on-carsStyleAdv-FT
5 shot: 56.44
cross-domain-few-shot-on-carsStyleAdv
5 shot: 50.13
cross-domain-few-shot-on-chestxStyleAdv-FT
5 shot: 26.24
cross-domain-few-shot-on-chestxStyleAdv
5 shot: 26.07
cross-domain-few-shot-on-cropdiseaseStyleAdv-FT
5 shot: 96.51
cross-domain-few-shot-on-cropdiseaseStyleAdv
5 shot: 93.65
cross-domain-few-shot-on-cubStyleAdv-FT
5 shot: 70.90
cross-domain-few-shot-on-cubStyleAdv
5 shot: 68.72
cross-domain-few-shot-on-eurosatStyleAdv
5 shot: 86.58
cross-domain-few-shot-on-eurosatStyleAdv-FT
5 shot: 91.64
cross-domain-few-shot-on-isic2018StyleAdv
5 shot: 45.77
cross-domain-few-shot-on-isic2018StyleAdv-FT
5 shot: 53.05
cross-domain-few-shot-on-placesStyleAdv-FT
5 shot: 79.35
cross-domain-few-shot-on-placesStyleAdv
5 shot: 77.73
cross-domain-few-shot-on-plantaeStyleAdv-FT
5 shot: 64.10
cross-domain-few-shot-on-plantaeStyleAdv
5 shot: 61.52

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
StyleAdv:面向跨域少样本学习的元风格对抗训练 | 论文 | HyperAI超神经