
摘要
我们研究了一个实际的域适应任务,称为无源无监督域适应(source-free unsupervised domain adaptation, UDA)问题。在此任务中,由于数据隐私限制,无法访问源域数据,仅能获取一个预训练的源模型以及未标注的目标域数据。然而,这一任务极具挑战性,其核心难点在于:既缺乏源域数据,又无目标域真实标签,导致模型适应过程极为困难。为应对这一挑战,我们提出从源模型中挖掘隐含知识,并利用这些知识生成源域类别的虚拟原型(即每个源类别对应的代表性特征,称为“源域化身原型”),同时生成目标域的伪标签,以实现域间对齐。为此,我们提出了一种对比原型生成与适应(Contrastive Prototype Generation and Adaptation, CPGA)方法。具体而言,CPGA方法包含两个阶段:(1)原型生成阶段:通过分析源模型的分类边界信息,设计一个原型生成器,基于对比学习机制生成高质量的源域化身原型;(2)原型适应阶段:基于生成的源域原型与目标域伪标签,提出一种新的鲁棒对比原型适应策略,将每个伪标签化的目标样本逐步对齐至对应的目标源原型。在三个标准UDA基准数据集上的大量实验结果表明,所提出方法在域适应性能上具有显著有效性与优越性。
代码仓库
SCUT-AILab/CPGA
官方
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| domain-adaptation-on-office-31 | CPGA | Average Accuracy: 89.9 |
| domain-adaptation-on-office-home | CPGA | Accuracy: 71.6 |
| domain-adaptation-on-visda2017 | CPGA | Accuracy: 86.0 |