4 个月前

嵌入GAN先验的网络用于野外盲人脸修复

嵌入GAN先验的网络用于野外盲人脸修复

摘要

从野外严重退化的面部图像中进行盲面恢复(BFR)是一个极具挑战性的问题。由于问题的高度病态性和复杂的未知退化,直接训练深度神经网络(DNN)通常无法获得令人满意的结果。现有的基于生成对抗网络(GAN)的方法可以产生更好的结果,但往往生成过度平滑的恢复图像。在本研究中,我们提出了一种新方法,首先学习一个用于高质量面部图像生成的GAN,并将其嵌入到U形DNN中作为先验解码器,然后使用一组合成的低质量面部图像对嵌入了GAN先验的DNN进行微调。设计的GAN模块确保了输入到GAN中的潜在代码和噪声分别由DNN的深层和浅层特征生成,从而控制重建图像的整体面部结构、局部面部细节和背景。所提出的嵌入GAN先验的网络(GPEN)易于实现,并能生成视觉上逼真的结果。我们的实验表明,所提出的GPEN在定量和定性方面均显著优于最先进的BFR方法,特别是在处理野外严重退化的面部图像时。源代码和模型可在https://github.com/yangxy/GPEN获取。

代码仓库

yangxy/GPEN
官方
pytorch
GitHub 中提及
woctezuma/SimSwap-colab
GitHub 中提及

基准测试

基准方法指标
blind-face-restoration-on-celeba-hqSuper-FAN
FID: 136.83
LPIPS: 0.616
PSNR: 21.56
blind-face-restoration-on-celeba-hqPix2PixHD
FID: 76.89
LPIPS: 0.494
PSNR: 20.45
blind-face-restoration-on-celeba-hqHiFaceGAN
FID: 56.67
LPIPS: 0.392
PSNR: 21.33
blind-face-restoration-on-celeba-hqGPEN
FID: 31.72
LPIPS: 0.346
PSNR: 20.80
blind-face-restoration-on-celeba-hqGWAInet
FID: 135.84
LPIPS: 0.569
PSNR: 19.84
blind-face-restoration-on-celeba-hqGFRNet
FID: 134.92
LPIPS: 0.597
PSNR: 21.70

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
嵌入GAN先验的网络用于野外盲人脸修复 | 论文 | HyperAI超神经