4 个月前

通过反向传播实现无监督领域适应

通过反向传播实现无监督领域适应

摘要

表现最佳的深度架构是在大量标注数据上训练而成的。当某一任务缺乏标注数据时,如果可以获得来自不同领域但性质相似的标注数据(例如合成图像),领域适应通常提供了一个有吸引力的选择。本文提出了一种新的深度架构领域适应方法,该方法可以在源领域的大量标注数据和目标领域的大量未标注数据上进行训练(无需目标领域的标注数据)。随着训练的进行,该方法促进了“深层”特征的出现,这些特征(i)对源领域的主要学习任务具有区分性,并且(ii)在不同领域之间的偏移中保持不变性。我们证明了这种适应行为几乎可以在任何前馈模型中实现,只需增加几个标准层和一个简单的梯度反转层即可。增强后的架构可以使用标准反向传播算法进行训练。总体而言,该方法可以通过任何深度学习软件包轻松实现。在一系列图像分类实验中,该方法表现出色,在存在较大领域偏移的情况下实现了适应效果,并且在Office数据集上的性能超过了以往的最先进水平。

基准测试

基准方法指标
domain-adaptation-on-hmdbfull-to-ucfRevGrad
Accuracy: 74.44
domain-adaptation-on-hmdbsmall-to-ucfTemPooling + RevGrad
Accuracy: 98.41
domain-adaptation-on-olympic-to-hmdbsmallTemPooling + RevGrad
Accuracy: 90.00
domain-adaptation-on-ucf-to-hmdbfullRevGrad
Accuracy: 74.44
domain-adaptation-on-ucf-to-hmdbsmallTemPooling + RevGrad
Accuracy: 99.33
domain-adaptation-on-ucf-to-olympicTemPooling + RevGrad
Accuracy: 98.15
multi-target-domain-adaptation-on-office-31RevGrad
Accuracy: 73.4
multi-target-domain-adaptation-on-office-homeRevGrad
Accuracy: 57.9
unsupervised-image-to-image-translation-onDANN
Classification Accuracy: 73.6%

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
通过反向传播实现无监督领域适应 | 论文 | HyperAI超神经