3 个月前

基于协同调制生成对抗网络的大规模图像补全

基于协同调制生成对抗网络的大规模图像补全

摘要

针对图像修复任务,已涌现出众多面向特定任务的条件生成对抗网络(conditional generative adversarial networks)变体。然而,现有方法仍存在一个严重局限:当面对大范围缺失区域时,大多难以有效处理。为克服这一挑战,本文提出一种通用性新方法,通过联合调制条件风格表示与随机风格表示,实现图像条件生成与近期调制型无条件生成架构之间的有效衔接。此外,由于当前图像修复任务缺乏可靠的定量评估指标,本文进一步提出一种新的配对/非配对Inception判别得分(Paired/Unpaired Inception Discriminative Score, P-IDS/U-IDS),该指标通过在特征空间中衡量样本的线性可分性,能够稳健地评估修复图像在感知保真度方面与真实图像的接近程度。实验结果表明,所提方法在自由形状图像修复任务中,无论在图像质量还是多样性方面,均显著优于当前最先进方法,并展现出良好的可迁移性,可轻松拓展至图像到图像的翻译任务。代码已开源,地址为:https://github.com/zsyzzsoft/co-mod-gan。

代码仓库

zsyzzsoft/co-mod-gan
官方
tf
GitHub 中提及

基准测试

基准方法指标
image-inpainting-on-celeba-hqCoModGAN
FID: 5.65
P-IDS: 11.23
U-IDS: 22.54
image-inpainting-on-ffhq-512-x-512CoModGAN
FID: 3.7
P-IDS: 16.6%
U-IDS: 29.4%
image-inpainting-on-places2-1CoModGAN
FID: 2.92
P-IDS: 19.64
U-IDS: 35.78

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于协同调制生成对抗网络的大规模图像补全 | 论文 | HyperAI超神经