3 个月前

判别性特征对齐:通过高斯引导的潜在空间对齐提升无监督域自适应的可迁移性

判别性特征对齐:通过高斯引导的潜在空间对齐提升无监督域自适应的可迁移性

摘要

在本研究中,我们关注无监督域自适应问题,即从一个带有标签的数据域中学习一个近似推理模型,并期望该模型能够很好地泛化到一个无标签的数据域。无监督域自适应的成功在很大程度上依赖于跨域特征对齐。以往的研究尝试通过分类器诱导的差异来直接对齐潜在特征。然而,当域间差异较大时,仅通过这种直接特征对齐往往难以学习到统一的特征空间。为解决这一问题,我们提出一种基于高斯先验引导的潜在特征对齐方法,借助先验分布的指导,实现两个域潜在特征分布的对齐。通过这种间接方式,来自两个域的样本分布被构建在同一个特征空间中,即先验分布所定义的空间,从而促进更优的特征对齐效果。为进一步有效将目标域的潜在分布与该先验分布对齐,我们还利用编码器-解码器结构的特性,提出一种新型的无配对L1距离度量。在九个基准数据集上的大量实验验证了所提方法在知识迁移能力上的优越性,其性能优于现有最先进方法;同时,该方法在显著提升现有工作表现方面也展现出良好的通用性。

代码仓库

JingWang18/Discriminative-Feature-Alignment
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
domain-adaptation-on-imageclef-daDFA-SAFN
Accuracy: 90.2
domain-adaptation-on-imageclef-daDFA-ENT
Accuracy: 89.1
domain-adaptation-on-mnist-to-uspsDFA-ENT
Accuracy: 97.9
domain-adaptation-on-mnist-to-uspsDFA-MCD
Accuracy: 98.6
domain-adaptation-on-svhn-to-mnistDFA-MCD
Accuracy: 98.9
domain-adaptation-on-svhn-to-mnistDFA-ENT
Accuracy: 98.2
domain-adaptation-on-synsig-to-gtsrbDFA-MCD
Accuracy: 97.5
domain-adaptation-on-synsig-to-gtsrbDFA-ENT
Accuracy: 96.8
domain-adaptation-on-usps-to-mnistDFA-MCD
Accuracy: 96.6
domain-adaptation-on-usps-to-mnistDFA-ENT
Accuracy: 96.2
transfer-learning-on-office-homeDFA-SAFN
Accuracy: 69.1
transfer-learning-on-office-homeDFA-ENT
Accuracy: 69.2

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供