4 个月前

ProCST:利用渐进循环风格迁移提升语义分割

ProCST:利用渐进循环风格迁移提升语义分割

摘要

使用合成数据训练在真实世界数据上表现良好的神经网络是一项重要任务,因为它可以减少昂贵的数据标注需求。然而,合成数据与真实世界数据之间存在领域差距。近年来,减少这种差距(也称为领域适应)的研究已经广泛开展。直接在这两种数据之间进行适应以缩小源(合成)数据与目标(真实)数据之间的领域差距是一个挑战。在本研究中,我们提出了一种新颖的两阶段框架,用于改进图像数据上的领域适应技术。在第一阶段,我们逐步训练一个多尺度神经网络,以实现从源域到目标域的图像转换。我们将新转换的数据称为“目标中的源”(Source in Target, SiT)。然后,我们将生成的SiT数据作为输入插入任何标准的无监督领域适应(UDA)方法中。这种新的数据与所需的目标域之间的领域差距较小,有助于所应用的UDA方法进一步缩小差距。我们通过与其他领先的UDA和图像到图像转换技术进行比较来强调我们的方法的有效性,这些技术被用作SiT生成器。此外,我们在两个UDA任务(GTA5到Cityscapes和Synthia到Cityscapes)中展示了我们的框架对三种最先进的UDA方法(HRDA、DAFormer和ProDA)在语义分割方面的改进效果。

代码仓库

shahaf1313/procst
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
domain-adaptation-on-gta5-to-cityscapesDAFormer + ProCST
mIoU: 69.4
domain-adaptation-on-synthia-to-cityscapesDAFormer + ProCST
mIoU: 61.6
image-to-image-translation-on-gtav-toDAFormer + ProCST
mIoU: 69.4
image-to-image-translation-on-synthia-toDAFormer + ProCST
mIoU (13 classes): 68.2
semantic-segmentation-on-gtav-to-cityscapes-1DAFormer + ProCST
mIoU: 69.4
semantic-segmentation-on-synthia-toDAFormer + ProCST
Mean IoU: 61.6
synthetic-to-real-translation-on-gtav-toDAFormer + ProCST
mIoU: 69.4
synthetic-to-real-translation-on-synthia-to-1DAFormer + ProCST
MIoU (16 classes): 61.6
unsupervised-domain-adaptation-on-gtav-toDAFormer + ProCST
mIoU: 69.4
unsupervised-domain-adaptation-on-synthia-toDAFormer + ProCST
mIoU (13 classes): 68.2

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
ProCST:利用渐进循环风格迁移提升语义分割 | 论文 | HyperAI超神经