3 个月前

熵最小化与多样性最大化在域适应中的对比

熵最小化与多样性最大化在域适应中的对比

摘要

熵最小化在无监督域自适应(Unsupervised Domain Adaptation, UDA)中已被广泛使用。然而,现有研究指出,仅采用熵最小化可能导致模型陷入平凡的退化解(collapsed trivial solutions)。为此,本文提出通过进一步引入多样性最大化来避免此类退化解。为实现UDA中可能的最小目标风险,我们证明了多样性最大化必须与熵最小化进行精细平衡,而这种平衡程度可通过无监督方式利用深度嵌入式验证(deep embedded validation)进行精确调控。所提出的最小熵多样性最大化方法(Minimal-Entropy Diversity Maximization, MEDM)可直接通过随机梯度下降(Stochastic Gradient Descent)实现,无需依赖对抗学习。实验结果表明,MEDM在四个主流域自适应数据集上均优于当前最先进的方法。

代码仓库

AI-NERC-NUPT/MEDM
官方
pytorch

基准测试

基准方法指标
domain-adaptation-on-imageclef-daMEDM
Accuracy: 88.9
domain-adaptation-on-office-31MEDM
Average Accuracy: 89.2
domain-adaptation-on-office-homeMEDM
Accuracy: 69.5

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
熵最小化与多样性最大化在域适应中的对比 | 论文 | HyperAI超神经